هوش مصنوعی (AI) به سرعت در زندگی روزمره و چشم انداز کسب و کار ما نفوذ کرده و شیوه مصرف و تعامل ما با اطلاعات را متحول کرده است. الگوریتم‌های یادگیری ماشینی، پردازش زبان طبیعی و مدل‌های یادگیری عمیق، سیستم‌های هوش مصنوعی را قادر می‌سازند تا حجم وسیعی از داده‌ها را تجزیه و تحلیل، محتوا را تولید و حتی مکالمات انسانی را تقلید کنند.
در حالی که دستیابی به هوش مصنوعی نویدبخش است، اما همزمان نگرانی‌هایی نیز درباره صحت و قابلیت اعتماد اطلاعاتی که ارائه می‌شود، وجود دارد. با افزایش حجم روزافزون داده‌های دیجیتالی که جمع‌آوری می‌شوند (همراه با حملات پیچیده‌تر مهندسی اجتماعی برای بهره‌برداری از این داده‌ها)، خطوط بین حقیقت و فریب به طور فزاینده مبهمتر می‌شوند.
این یک چشم انداز پیچیده است. ما دسترسی بی‌سابقه‌ای به اطلاعات داریم، اما با تصاویر عمیق جعلی، صداهای تغییر یافته و متن‌های تولید شده توسط هوش مصنوعی نیز مواجهیم که موجب می شود تا اعتماد ما به آنچه می‌بینیم، می‌شنویم و می‌خوانیم تضعیف شود.
بنابراین، چگونه کسب و کارها از قدرت این عصر جدید بهره برده و در عین حال خطرات و مشکلات را کاهش می دهند؟
مقابله با تعصب هوش مصنوعی
الگوریتم‌های هوش مصنوعی در تلاش بی‌پایان خود برای یادگیری از داده‌های تاریخی، می‌توانند ناخواسته سوگیری‌های موجود در داده‌های آموزشی خود را به ارث ببرند. این سوگیری ها می توانند در محتوای تولید شده توسط هوش مصنوعی ظاهر شده و منجر به اطلاعات نادرست یا تقویت تعصبات موجود شوند.
هنگامی که از آنها خواسته می شود به منابع یا منابعی که برای نتیجه گیری از آنها استفاده کرده اند استناد کنند، بسیاری از سیستم های هوش مصنوعی تلاش خود را آغاز می کنند، اما ممکن است دچار “توهم” شوند. این امر باعث می‌شود که تکیه بر هر بینش تولید شده توسط هوش مصنوعی بدون اعتبارسنجی ایده بدی باشد، زیرا ممکن است منجر به تصمیم‌گیری بر اساس داده‌های نادرست شود. درعوض، رهبران کسب‌وکار باید نسبت به سیستم‌های هوش مصنوعی که به کار می‌برند آگاهی بیشتری ایجاد کرده تا محدودیت‌ها و تعصبات خود را بهتر درک کنند.
مقابله با بهمن داده ها
داده ها به دلیل ارزشی که در راهبرد استراتژی ها و تصمیمات تجاری دارند، اغلب به عنوان «روغن جدید» شناخته می شوند. حجم انبوه داده های موجود امروزه خیره کننده بوده، کسب و کارها نیز بیش از هر زمان دیگری به اطلاعات دسترسی دارند.
این داده ها باعث پیشرفت های چشمگیر در هوش مصنوعی و تجزیه و تحلیل شده است، اما همه داده ها برابر نبوده و تمام منابع نیز قابل اعتماد نیستند. داده های نادرست، ناقص یا دستکاری شده می تواند منجر به بینش های ناقص و تصمیم گیری های نادرست شود. در همین حال، همانطور که اخیراً نقض داده های پرمخاطب نشان داده است، هرچه یک سازمان اطلاعات بیشتری جمع آوری کند، خطر حملات سایبری بیشتر می شود.
برای کاهش این مسائل، مدیران اجرایی نیاز به اجرای تدابیر امنیتی و حاکمیت داده قوی دارند. این شامل ممیزی منظم منابع داده، ایجاد پروتکل های امنیتی داده ها و پیروی از مقررات حفظ حریم خصوصی مانند مقررات عمومی حفاظت از داده ها (GDPR) و قانون حفظ حریم خصوصی مصرف کنندگان کالیفرنیا (CCPA) می شود.
مقاومت در برابر مهندسی اجتماعی
فیشینگ ایمیلی، وب سایتی و …، تاکتیک های مهندسی اجتماعی شناخته شده ای هستند که به راحتی برای به خطر انداختن شبکه های تجاری و سرقت داده ها استفاده می شوند. علاوه بر این، مهاجمان یاد گرفته‌اند که چگونه از فناوری هوش مصنوعی برای ترکیب تصاویر، ویدیو و صدا در این حملات استفاده کرده تا بهتر جعل هویت مخاطبین مورد اعتماد واقع شود. این می تواند تشخیص بین ارتباطات واقعی و مخرب در محل کار را بسیار چالش برانگیز کند.
حمله اخیر به MGM Resorts یک نمونه روشن است که نشان می‌دهد یک سازمان با استراتژی مناسب و کنترل‌های امنیتی قوی، حتی در برابر یک کلاهبرداری ساده مانند بازنشانی رمز عبور، می‌تواند با موفقیت مقابله کند.
در این محیط، اقدامات امنیت سایبری قوی مانند فیلتر ایمیل، احراز هویت چند عاملی و سیستم‌های تشخیص نفوذ در حفاظت از دارایی‌های سازمان ضروری است. در همین حال، مدیران و کارکنان باید به گونه ای آموزش ببینند که همواره نسبت به امنیت مشکوک باشند و تهدیدات مهندسی اجتماعی را در زمان واقعی شناسایی و پاسخ دهند.
ایجاد فرهنگ اعتبارسنجی
همگرایی هوش مصنوعی، فراوانی داده ها و حملات مهندسی اجتماعی، تغییر اساسی در نحوه برخورد مدیران تجاری با اطلاعات و تصمیم گیری را ضروری می کند. اعتبارسنجی داده ها دیگر اختیاری نبوده، بلکه یکی از اجزای اساسی رهبری مسئولانه است.
ما با توجه به این واقعیت، در اینجا 10 روش برتر که مدیران کسب و کار باید برای ایجاد فرهنگ اعتبارسنجی و حفاظت از داده‌های خود در مقابل حملات سایبری پیچیده اتخاذ کنند را بیان می کنیم.
- منابع داده خود را متنوع و اطلاعات را تأیید کنید تا از اتکای بیش از حد به یک منبع که می تواند منجر به سوگیری تأیید شود، جلوگیری کنید.
- اطمینان حاصل کنید که هر بینش ایجاد شده توسط هوش مصنوعی به متخصصان موضوع انسانی که می توانند داده ها را تأیید، زمینه انتقادی را ارائه و به تشخیص واقعیت از داستان کمک کنند، ارجاع داده شود.
- از ابزارهای حقیقت‌سنجی برای کمک به شناسایی نادرستی‌ها و اطلاعات گمراه کننده استفاده کنید (اما به یاد داشته باشید که این سرویس‌ها ممکن است سوگیری‌های اطلاعاتی خود را داشته باشند).
- اهمیت اعتبارسنجی را به وضوح به تیم خود منتقل کرده و بر اهمیت تصمیم گیری شفاف بر اساس اطلاعات تأیید شده تأکید کنید.
- فرهنگ تفکر انتقادی را تشویق کنید که در آن هر کسی در سازمان شما می تواند مفروضات را به چالش کشیده و در بحث های آزاد شرکت کند، تا اطمینان حاصل شود که تصمیمات به بهترین شکل ممکن اتخاذ شده اند.
- آموزش و تربیت مداوم را ارائه دهید. به تیم خود کمک کنید تاکتیک های رایج مهندسی اجتماعی را شناخته و مهارت های لازم برای دفاع در برابر چنین حملاتی را به دست بیاورند.
- پروتکل های واضحی را برای جمع آوری، ذخیره داده ها و بازرسی منظم همه منابع داده در راستای اطمینان از کیفیت، قابلیت اطمینان و امنیت ایجاد کنید.
- شما باید برای محافظت از سازمان خود در برابر حملات مهندسی اجتماعی و اطمینان از به روز رسانی منظم پروتکل های امنیتی، روی اقدامات امنیتی سایبری قوی سرمایه گذاری کنید.
- برای مقابله با کمپین های اطلاعات نادرست، حملات مهندسی اجتماعی و یا نقض داده ها، یک طرح پاسخ ایجاد کنید تا در صورت وقوع یک حمله موفقیت آمیز، تیم شما بتواند به سرعت واکنش نشان دهد.
- با ارزیابی منظم پروتکل های اعتبارسنجی سازمان خود برای همگام شدن با چشم انداز تهدید که همواره در حال تحول هستند، در جهت بهبود مستمر تلاش کنید.
فرهنگ از اوج شروع می شود
مدیران نقش اصلی را در پرورش فرهنگ اعتبارسنجی در سازمان خود ایفا می کنند. هنگامی که رهبران آنچه را که در اعتبارسنجی اطلاعات و انجام تلاش‌های لازم موعظه و به کار گیرند، می‌توانند به سرعت در سراسر نیروی کار خود نفوذ کنند.
با تنوع بخشیدن به منابع داده، آموزش تیم‌ها و سرمایه‌گذاری در ابزارهای امنیت سایبری قوی، مدیران می‌توانند با اطمینان بیشتر در این چشم‌انداز چالش‌برانگیز حرکت کرده و از یکپارچگی سازمان و اعتماد سهامداران خود اطمینان حاصل کنند.