خطرات مبتنی بر هوشمصنوعی برای اقتصاد و نیروی کار
گروه اقتصادی- علی جوانمردی- هوش مصنوعی (AI) صنایع متعددی را متحول کرده و بهره‌وری و نوآوری را با سرعتی بی‌سابقه افزایش داده است. از افزایش دسترسی به مراقبت‌های بهداشتی گرفته تا مدل‌سازی‌های آب‌وهوایی که به کاهش تأثیر رویدادها وتاثیرات آب‌وهوایی کمک می‌کند و بهبود کارایی و امنیت در محل‌های کار و اجتماع و کمک به تسهیل امور، همه بخش‌هایی از مزایای حضور هوشمصنوعی در زندگی ماست. به‌علاوه اینکه هوشمصنوعی نتایج بهتر و پایدارتری را ممکن می‌سازد. بااین‌حال، همین فناوری متحول‌کننده برای اهداف جنایی نیز مورد استفاده قرار می‌گیرد و تهدیدات قابل‌توجهی را برای امنیت جهانی و ثبات اجتماعی ایجاد می‌کند. بازیگران بدخواه به‌طور قابل‌توجهی از هوشمصنوعی برای انجام هک و کلاهبرداری، ایجاد جعل اسناد، برای اخاذی و انتشار اطلاعات نادرست و انجام حملات سایبری در مقیاس وسیع استفاده می‌کنند.
به گزارش روزنامه اقتصاد سرآمد، با پیچیده‌ترشدن فناوری هوشمصنوعی، روش‌های سوءاستفاده مجرمان نیز از آن افزایش می‌یابد. این گزارش مراحل بلوغ جرایم مبتنی بر هوشمصنوعی -افق، ظهور و ... - را بررسی کرده و نشان می‌دهد که چگونه هوشمصنوعی با حذف تنگناهای سنتی انسانی، قابلیت‌های مجرمانه را تقویت می‌کند. در ابتدا نگاهي به نمونه‌های دنیای واقعی و موارد مستند هوشمصنوعی در فعالیت‌های مجرمانه خواهیم انداخت و شدت این چالش‌ها را بررسی خواهیم کرد سپس با تأکید بر اهمیت راه‌حل‌های فنی، مقررات، آموزش و همکاری، استراتژی‌هایی را نیز برای پیشگیری و کاهش جرایم مبتنی بر هوشمصنوعی ارائه خواهیم داد.
هوشمصنوعی با حذف تنگناهای انسانی، رشد مجرمانه را ممکن می‌سازد. هوشمصنوعی در دنیای تجارت نفوذ کرده، صنایع را متحول و قوانین کارایی و مقیاس کسب‌وکارها را بازنویسی کرده است. شرکت‌ها هوشمصنوعی را در مراحل مختلف به کار گرفته‌اند؛ با ابزارهای آماده‌ای مانند ChatGPT برای کمک به کارهایی مانند تهیه پیش‌نویس پاسخ‌ها، ترجمه اسناد یا خلاصه‌سازی داده‌ها روی آورده‌اند.
با گذشت زمان، سازمان‌ها شروع به توسعه سیستم‌های هوشمصنوعی اختصاصی برای خودکارسازی کل گردش‌های کاری کسب‌وکار خود کرده‌اند. اما این پیشرفت‌ها محدود به دنیای قانونی نیست. در سراسر جهان شرکت‌هایی با اهداف منفی و مخالف قوانین صلح بشر در حال رقابت برای مهار پتانسیل هوشمصنوعی به همان شیوه هستند.
خطرات و تهدیدات هوشمصنوعی
در ابتدا، این سازمان‌ها برای کمک به تلاش‌های مجرمانه خود که توسط انسان هدایت می‌شوند، به هوش مصنوعی روی آورده‌اند، اسکریپت‌های فیشینگ را به زبان‌های مختلف ترجمه یا پایگاه‌های کد گسترده‌ای را برای یافتن آسیب‌پذیری‌های قابل سوءاستفاده اسکن کرده‌اند. این برنامه‌های اولیه، کاربردهای مشروع هوشمصنوعی را منعکس می‌کنند، اما به سلاحی با اثرات مخرب تبدیل شده‌اند.
مرز بعدی برای مجرمان، خودمختاری است. همانطور که شرکت‌ها برای خودکارسازی وظایف تلاش می‌کنند، مجرمان سایبری می‌توانند عوامل هوش مصنوعی را توسعه دهند که قادر به عملکرد کاملاً مستقل هستند. این عوامل می‌توانند آسیب‌پذیری‌ها را بدون نظارت انسانی شناسایی و بهره‌برداری کرده و اهداف پیچیده‌ای مانند هک کردن زیرساخت‌های حیاتی (مانند تصفیه‌خانه‌های آب) را اجرا کنند. این تکامل نه‌تنها مقیاس عملیات مجرمانه را تغییر می‌دهد، بلکه اساساً آن‌ها را تغییرشکل می‌دهد و آن‌ها را سریع‌تر و زودبازده‌تر خواهد کرد و شناسایی یا مقابله با آن‌ها را به طرز نگران‌کننده‌ای دشوار می‌کند. مجرمان سایبری از هوشمصنوعی به روش‌های جدیدی استفاده می‌کنند. مجرمان سایبری، کلاهبرداران و بازیگران مختلف در این زمینه عامدانه از هوشمصنوعی برای تقویت فعالیت‌های مخرب خود استفاده می‌کنند.
برخی کاربردهای اصلی که آن‌ها یافته‌اند، عبارتند از: خودکارسازی حملات ابزارهای مبتنی بر هوشمصنوعی، خودکارسازی کمپین‌های فیشینگ را امکان‌پذیر و پیام‌های بسیار قانع‌کننده‌ای را در مقیاس بالا ایجاد می‌کنند. هوشمصنوعی همچنین به بدافزارها اجازه می‌دهد تا به‌صورت پویا سازگار شوند تا از تشخیص در زمان واقعی فرار کنند.
در مارس2024، وزارت خزانه‌داری ایالات متحده گزارشی در مورد وضعیت فعلی هوشمصنوعی مرتبط با امنیت سایبری و خطرات کلاهبرداری در خدمات مالی منتشر کرد. این گزارش که مصاحبه‌هایی با ۴۲موسسه مالی را ترتیب داد، به‌طور خاص به استفاده از هوشمصنوعی مولد توسط عوامل تهدید موجود برای توسعه و هدایت بدافزارهای پیچیده‌تر اشاره می‌کند که به آن‌ها قابلیت‌های حمله پیچیده‌ای می‌دهد که قبلاً فقط در دسترس عاملان اصلی با منابع بیشتر و دسترسی کامل‌تر بود و به عاملان تهدید کم‌مهارت‌تر کمک می‌کند تا حملات ساده، اما مؤثری را توسعه دهند. جعل اسناد و رسانه‌های مصنوعی مجرمان از فناوری برای جعل هویت مدیران یا چهره‌های عمومی و تصاویر و صداهای تولیدشده توسط هوشمصنوعی استفاده می‌کنند که تشخیص کلاهبرداری‌ها را دشوارتر می‌کند و آن‌ها را قادر می‌سازد تا کلاهبرداری‌های با ارزش بالا مانند هک ایمیل‌های تجاری BEC، اخاذی و دستکاری اجتماعی را تسهیل کنند. در نوامبر۲۰۲۴، FinCEN خزانه‌داری ایالات متحده «هشدار در مورد طرح‌های کلاهبرداری شامل رسانه‌های جعلی که مؤسسات مالی را هدف قرار می‌دهند» را منتشر کرد و «افزایش گزارش‌های فعالیت‌های مشکوک توسط مؤسسات مالی را که استفاده مشکوک از رسانه‌های جعلی را در طرح‌های کلاهبرداری که مؤسسات و مشتریان آن‌ها را هدف قرار می‌دهند» برجسته کرد.
رسیدن هوشمصنوعی به مرحله بلوغ
مرحله بلوغ هوشمصنوعی فرا رسیده است و هوشمصنوعی جایگزین فعالیت‌های انسانی می‌شود. مرحله بلوغ نشان‌دهنده نقطه‌ای است که فعالیت‌های مبتنی بر هوشمصنوعی بر حوزه‌های مربوطه خود تسلط پیدا می‌کنند و مجرمان بیشتر از اینکه به‌وسیله انسان‌ها دچار جرم شوند، به سیستم‌های هوشمصنوعی متکی هستند. سیستم‌های هوشمصنوعی به ابزارهای ضروری مانند مرورگرها، پایگاه‌های داده، پلتفرم‌های ایمیل و کیف‌پول‌های ارز دیجیتال دسترسی پیدا می‌کنند.
مدل‌های مختلف هوشمصنوعی برای بهینه‌سازی اهداف خاص، مانند به حداکثر رساندن سود یا نفوذ در ابزارهای مالی نیز، برنامه‌ریزی می‌شوند. به‌عنوان مثال، در یک اکوسیستم ارز دیجیتال شرکت کرده و از طریق تعامل با عوامل انسانی و ربات، ثروت را در دارایی‌های دیجیتال جمع‌آوری می‌کند. این امر پتانسیل عوامل هوشمصنوعی را برای تعامل با اقتصادهای دیجیتال به روش‌هایی که به کلاهبرداری مداوم و در مقیاس بزرگ دامن می‌زند، برجسته می‌کند و با افزایش توانایی این سیستم‌ها، می‌توانند فعالیت‌های مجرمانه پیچیده‌تر و با تأثیر بالا مانند دستکاری‌های گسترده بازار یا سوءاستفاده از آسیب‌پذیری‌ها در زیرساخت‌های حیاتی را انجام دهند. نیاز به اقدامات پیشگیرانه برای نظارت و کاهش سوءاستفاده از هوشمصنوعی در این اشکال پیشرفته ضروری است.
پیشگیری و کاهش جرایم مبتنی بر هوشمصنوعی امری کاملاً اجتناب‌ناپذیر است. بنابراین، مهم این است که چگونه می‌توانیم بین پذیرش فرصت و نوآوری ارائه‌شده توسط هوشمصنوعی و تضمین امنیت شهروندان و سیستم‌های جهانی خود تعادل برقرار کنیم؟ رسیدگی به سوءاستفاده از هوش مصنوعی نیاز به یک رویکرد چندوجهی دارد که ترکیبی از راه‌حل‌های فنی، اقدامات سیاستی و نظارتی، آموزش عمومی و همکاری است. سیستم‌های تشخیص مبتنی بر هوشمصنوعی به‌عنوان یک دفاع حیاتی در برابر جرایم مبتنی بر هوش مصنوعی عمل می‌کنند. به‌عنوان مثال، ابزارهایی که جعل اسناد را شناسایی می‌کنند یا ناهنجاری‌ها را در تراکنش‌های مالی تشخیص می‌دهند، در حال حاضر مؤثر بوده‌اند. چارچوب‌های امنیت سایبری پیشرفته که تشخیص تهدید مبتنی بر هوشمصنوعی را ادغام می‌کنند، می‌توانند خطرات مرتبط با حملات در مقیاس بزرگ را نیز بیشتر کاهش دهند. بنابراین، بهترین عامل شناسایی عوامل مخرب در حیات اجتماعی استفاده از همان هوشمصنوعی خواهد بود. امید است به بهترین نحو بتوانیم این ابزار شگفت‌انگیز فناوری را به خدمت انسان‌ها
درآوریم.
به گزارش روزنامه اقتصاد سرآمد، با پیچیده‌ترشدن فناوری هوشمصنوعی، روش‌های سوءاستفاده مجرمان نیز از آن افزایش می‌یابد. این گزارش مراحل بلوغ جرایم مبتنی بر هوشمصنوعی -افق، ظهور و ... - را بررسی کرده و نشان می‌دهد که چگونه هوشمصنوعی با حذف تنگناهای سنتی انسانی، قابلیت‌های مجرمانه را تقویت می‌کند. در ابتدا نگاهي به نمونه‌های دنیای واقعی و موارد مستند هوشمصنوعی در فعالیت‌های مجرمانه خواهیم انداخت و شدت این چالش‌ها را بررسی خواهیم کرد سپس با تأکید بر اهمیت راه‌حل‌های فنی، مقررات، آموزش و همکاری، استراتژی‌هایی را نیز برای پیشگیری و کاهش جرایم مبتنی بر هوشمصنوعی ارائه خواهیم داد.
هوشمصنوعی با حذف تنگناهای انسانی، رشد مجرمانه را ممکن می‌سازد. هوشمصنوعی در دنیای تجارت نفوذ کرده، صنایع را متحول و قوانین کارایی و مقیاس کسب‌وکارها را بازنویسی کرده است. شرکت‌ها هوشمصنوعی را در مراحل مختلف به کار گرفته‌اند؛ با ابزارهای آماده‌ای مانند ChatGPT برای کمک به کارهایی مانند تهیه پیش‌نویس پاسخ‌ها، ترجمه اسناد یا خلاصه‌سازی داده‌ها روی آورده‌اند.
با گذشت زمان، سازمان‌ها شروع به توسعه سیستم‌های هوشمصنوعی اختصاصی برای خودکارسازی کل گردش‌های کاری کسب‌وکار خود کرده‌اند. اما این پیشرفت‌ها محدود به دنیای قانونی نیست. در سراسر جهان شرکت‌هایی با اهداف منفی و مخالف قوانین صلح بشر در حال رقابت برای مهار پتانسیل هوشمصنوعی به همان شیوه هستند.
خطرات و تهدیدات هوشمصنوعی
در ابتدا، این سازمان‌ها برای کمک به تلاش‌های مجرمانه خود که توسط انسان هدایت می‌شوند، به هوش مصنوعی روی آورده‌اند، اسکریپت‌های فیشینگ را به زبان‌های مختلف ترجمه یا پایگاه‌های کد گسترده‌ای را برای یافتن آسیب‌پذیری‌های قابل سوءاستفاده اسکن کرده‌اند. این برنامه‌های اولیه، کاربردهای مشروع هوشمصنوعی را منعکس می‌کنند، اما به سلاحی با اثرات مخرب تبدیل شده‌اند.
مرز بعدی برای مجرمان، خودمختاری است. همانطور که شرکت‌ها برای خودکارسازی وظایف تلاش می‌کنند، مجرمان سایبری می‌توانند عوامل هوش مصنوعی را توسعه دهند که قادر به عملکرد کاملاً مستقل هستند. این عوامل می‌توانند آسیب‌پذیری‌ها را بدون نظارت انسانی شناسایی و بهره‌برداری کرده و اهداف پیچیده‌ای مانند هک کردن زیرساخت‌های حیاتی (مانند تصفیه‌خانه‌های آب) را اجرا کنند. این تکامل نه‌تنها مقیاس عملیات مجرمانه را تغییر می‌دهد، بلکه اساساً آن‌ها را تغییرشکل می‌دهد و آن‌ها را سریع‌تر و زودبازده‌تر خواهد کرد و شناسایی یا مقابله با آن‌ها را به طرز نگران‌کننده‌ای دشوار می‌کند. مجرمان سایبری از هوشمصنوعی به روش‌های جدیدی استفاده می‌کنند. مجرمان سایبری، کلاهبرداران و بازیگران مختلف در این زمینه عامدانه از هوشمصنوعی برای تقویت فعالیت‌های مخرب خود استفاده می‌کنند.
برخی کاربردهای اصلی که آن‌ها یافته‌اند، عبارتند از: خودکارسازی حملات ابزارهای مبتنی بر هوشمصنوعی، خودکارسازی کمپین‌های فیشینگ را امکان‌پذیر و پیام‌های بسیار قانع‌کننده‌ای را در مقیاس بالا ایجاد می‌کنند. هوشمصنوعی همچنین به بدافزارها اجازه می‌دهد تا به‌صورت پویا سازگار شوند تا از تشخیص در زمان واقعی فرار کنند.
در مارس2024، وزارت خزانه‌داری ایالات متحده گزارشی در مورد وضعیت فعلی هوشمصنوعی مرتبط با امنیت سایبری و خطرات کلاهبرداری در خدمات مالی منتشر کرد. این گزارش که مصاحبه‌هایی با ۴۲موسسه مالی را ترتیب داد، به‌طور خاص به استفاده از هوشمصنوعی مولد توسط عوامل تهدید موجود برای توسعه و هدایت بدافزارهای پیچیده‌تر اشاره می‌کند که به آن‌ها قابلیت‌های حمله پیچیده‌ای می‌دهد که قبلاً فقط در دسترس عاملان اصلی با منابع بیشتر و دسترسی کامل‌تر بود و به عاملان تهدید کم‌مهارت‌تر کمک می‌کند تا حملات ساده، اما مؤثری را توسعه دهند. جعل اسناد و رسانه‌های مصنوعی مجرمان از فناوری برای جعل هویت مدیران یا چهره‌های عمومی و تصاویر و صداهای تولیدشده توسط هوشمصنوعی استفاده می‌کنند که تشخیص کلاهبرداری‌ها را دشوارتر می‌کند و آن‌ها را قادر می‌سازد تا کلاهبرداری‌های با ارزش بالا مانند هک ایمیل‌های تجاری BEC، اخاذی و دستکاری اجتماعی را تسهیل کنند. در نوامبر۲۰۲۴، FinCEN خزانه‌داری ایالات متحده «هشدار در مورد طرح‌های کلاهبرداری شامل رسانه‌های جعلی که مؤسسات مالی را هدف قرار می‌دهند» را منتشر کرد و «افزایش گزارش‌های فعالیت‌های مشکوک توسط مؤسسات مالی را که استفاده مشکوک از رسانه‌های جعلی را در طرح‌های کلاهبرداری که مؤسسات و مشتریان آن‌ها را هدف قرار می‌دهند» برجسته کرد.
رسیدن هوشمصنوعی به مرحله بلوغ
مرحله بلوغ هوشمصنوعی فرا رسیده است و هوشمصنوعی جایگزین فعالیت‌های انسانی می‌شود. مرحله بلوغ نشان‌دهنده نقطه‌ای است که فعالیت‌های مبتنی بر هوشمصنوعی بر حوزه‌های مربوطه خود تسلط پیدا می‌کنند و مجرمان بیشتر از اینکه به‌وسیله انسان‌ها دچار جرم شوند، به سیستم‌های هوشمصنوعی متکی هستند. سیستم‌های هوشمصنوعی به ابزارهای ضروری مانند مرورگرها، پایگاه‌های داده، پلتفرم‌های ایمیل و کیف‌پول‌های ارز دیجیتال دسترسی پیدا می‌کنند.
مدل‌های مختلف هوشمصنوعی برای بهینه‌سازی اهداف خاص، مانند به حداکثر رساندن سود یا نفوذ در ابزارهای مالی نیز، برنامه‌ریزی می‌شوند. به‌عنوان مثال، در یک اکوسیستم ارز دیجیتال شرکت کرده و از طریق تعامل با عوامل انسانی و ربات، ثروت را در دارایی‌های دیجیتال جمع‌آوری می‌کند. این امر پتانسیل عوامل هوشمصنوعی را برای تعامل با اقتصادهای دیجیتال به روش‌هایی که به کلاهبرداری مداوم و در مقیاس بزرگ دامن می‌زند، برجسته می‌کند و با افزایش توانایی این سیستم‌ها، می‌توانند فعالیت‌های مجرمانه پیچیده‌تر و با تأثیر بالا مانند دستکاری‌های گسترده بازار یا سوءاستفاده از آسیب‌پذیری‌ها در زیرساخت‌های حیاتی را انجام دهند. نیاز به اقدامات پیشگیرانه برای نظارت و کاهش سوءاستفاده از هوشمصنوعی در این اشکال پیشرفته ضروری است.
پیشگیری و کاهش جرایم مبتنی بر هوشمصنوعی امری کاملاً اجتناب‌ناپذیر است. بنابراین، مهم این است که چگونه می‌توانیم بین پذیرش فرصت و نوآوری ارائه‌شده توسط هوشمصنوعی و تضمین امنیت شهروندان و سیستم‌های جهانی خود تعادل برقرار کنیم؟ رسیدگی به سوءاستفاده از هوش مصنوعی نیاز به یک رویکرد چندوجهی دارد که ترکیبی از راه‌حل‌های فنی، اقدامات سیاستی و نظارتی، آموزش عمومی و همکاری است. سیستم‌های تشخیص مبتنی بر هوشمصنوعی به‌عنوان یک دفاع حیاتی در برابر جرایم مبتنی بر هوش مصنوعی عمل می‌کنند. به‌عنوان مثال، ابزارهایی که جعل اسناد را شناسایی می‌کنند یا ناهنجاری‌ها را در تراکنش‌های مالی تشخیص می‌دهند، در حال حاضر مؤثر بوده‌اند. چارچوب‌های امنیت سایبری پیشرفته که تشخیص تهدید مبتنی بر هوشمصنوعی را ادغام می‌کنند، می‌توانند خطرات مرتبط با حملات در مقیاس بزرگ را نیز بیشتر کاهش دهند. بنابراین، بهترین عامل شناسایی عوامل مخرب در حیات اجتماعی استفاده از همان هوشمصنوعی خواهد بود. امید است به بهترین نحو بتوانیم این ابزار شگفت‌انگیز فناوری را به خدمت انسان‌ها
درآوریم.