با بیش از 20 سال فعالیت در صنعت فناوری اطلاعات و امنیت، به طور مستقیم پیچیدگی و مقیاس روزافزون حملات سایبری را مشاهده کرده ایم. اکنون این حملات می توانند با هوش مصنوعی تولید شوند. هوش مصنوعی مولد شاخه‌ای از هوش مصنوعی است که می‌تواند بر اساس داده‌ها و الگوریتم‌ها محتوای واقعی مانند متن، تصویر، صدا و ویدئو ایجاد کند. در حالی که هوش مصنوعی مولد کاربردهای مثبت زیادی مانند افزایش خلاقیت، شخصی‌سازی و دسترسی دارد، اما می‌تواند امنیت و یکپارچگی سیستم‌ها و اطلاعات دیجیتال را به طور جدی تهدید کند.
از هوش مصنوعی مولد می توان برای ایجاد ایمیل های فیشینگ قانع کننده، مقالات اخبار جعلی، ویدیوهای عمیق جعلی، هویت های مصنوعی و موارد دیگر استفاده کرد. این محتوای مخرب می تواند برای دستکاری افکار عمومی، انتشار اطلاعات نادرست، جعل هویت افراد یا سازمان ها، سرقت داده های حساس یا به خطر انداختن امنیت شبکه مورد استفاده قرار گیرد. بر اساس گزارش اخیر CSO Online، هوش مصنوعی مولد یکی از مهمترین تهدیدهای نوظهور است که افسر ارشد امنیت اطلاعات (CISO) باید در دهه آینده برای آن آماده شود.
راهکارهای مهم
حال سوال مهم این است که چگونه افسران ارشد امنیت اطلاعات (CISO) می توانند در برابر تهدیدات هوش مصنوعی مولد دفاع کنند؟
کارمندان و ذینفعان خود را آموزش دهید.
آگاهی اولین خط دفاعی در برابر حملات هوش مصنوعی است. شما باید کارمندان و ذینفعان خود را در مورد خطرات و اثرات بالقوه هوش مصنوعی مولد و نحوه شناسایی و گزارش محتوای مشکوک آموزش دهید. سعی کنید به طور منظم آموزش و شبیه سازی برای آزمایش توانایی آنها در شناسایی و پاسخ به حملات مولد هوش مصنوعی ارائه دهید. مطالعه ای توسط MIT نشان داد که آموزش می تواند به طور قابل توجهی دقت تشخیص ویدیوهای دیپ فیک را بهبود بخشد.
پیاده سازی مکانیزم های تایید و احراز هویت قوی
چندین لایه تأیید و احراز هویت می تواند از دارایی های دیجیتال و ارتباطات شما محافظت کند. به عنوان مثال، می توانید از امضای دیجیتال، رمزگذاری، بیومتریک، احراز هویت چند عاملی، بلاک چین و سایر فناوری ها برای اطمینان از صحت و یکپارچگی داده ها و تراکنش های خود استفاده کنید. همچنین باید سیستم ها و شبکه های خود را برای هر گونه ناهنجاری یا نقض نظارت و بازرسی کنید. گزارشی توسط گارتنر نشان می دهد که فناوری های تأیید و احراز هویت می توانند خطر تقلب هویت را تا 90٪ کاهش دهند.
از هوش مصنوعی مولد برای تشخیص و کاهش استفاده کنید
همچنین می توانید از هوش مصنوعی مولد برای شناسایی و کاهش حملات خودش استفاده کنید. برای مثال، می‌توانید از مدل‌های هوش مصنوعی برای تجزیه و تحلیل و طبقه‌بندی محتوا بر اساس احتمال تولید یا دستکاری آن استفاده کنید. همچنین می‌توانید از مدل‌های هوش مصنوعی برای تولید محتوای متقابل یا اقدامات متقابل برای خنثی کردن یا افشای حملات هوش مصنوعی مولد استفاده کنید. مقاله ای نشان می دهد که چگونه می توان از مدل های هوش مصنوعی برای شناسایی مقالات جعلی با دقت بالا استفاده کرد.
همکاری با سایر سازمان ها و کارشناسان
بهتر است به تنهایی با تهدیدات هوش مصنوعی مولد مبارزه نکنید. برای به اشتراک گذاشتن بهترین شیوه ها، بینش ها و منابع، با سایر سازمان ها و کارشناسان در صنعت، بخش یا حوزه خود همکاری کنید. با شرکت در انجمن‌های صنعتی، سازمان‌های استاندارد، آژانس‌های نظارتی و سایر ابتکارات، می‌توانید دستورالعمل‌ها، سیاست‌ها و چارچوب‌های مشترکی را برای مقابله با تهدیدات هوش مصنوعی ایجاد کنید. نظرسنجی Deloitte نشان داد که همکاری یکی از عوامل کلیدی برای یک استراتژی امنیت سایبری موفق است.
سرمایه گذاری در تحقیق و نوآوری
سرمایه‌گذاری در تحقیق و نوآوری می‌تواند به شما کمک کند که جلوتر از منحنی باشید و چالش‌ها و فرصت‌های آینده ناشی از هوش مصنوعی مولد را پیش‌بینی کنید. با کاوش در راه های جدید برای استفاده از هوش مصنوعی مولد برای اهداف مثبت، ممکن است محصولات، خدمات و فرآیندهای خود را ارتقا دهید. حمایت از استفاده اخلاقی و مسئولانه از هوش مصنوعی مولد به پرورش فرهنگ اعتماد و شفافیت در میان مشتریان، شرکا و ذینفعان شما کمک خواهد کرد. گزارش مک کینزی تخمین زده است که هوش مصنوعی مولد می تواند تا سال 2030 تا 13 تریلیون دلار ارزش اقتصادی ایجاد کند.
سخن پایانی
هوش مصنوعی مولد یک شمشیر دو لبه است که می تواند برای خیر یا شر استفاده شود. به عنوان رهبران امنیتی، ما مسئول محافظت از سازمان ها و جامعه خود در برابر تأثیرات منفی هوش مصنوعی مولد هستیم و در عین حال از پتانسیل مثبت آن بهره می بریم.