WormGPT: آنچه باید در مورد پاسخ مجرمان سایبری به ChatGPT بدانید

در 13 ژوئیه، محققان شرکت امنیت سایبری SlashNext یک پست وبلاگی منتشر کردند که کشف WormGPT، ابزاری را که برای فروش در انجمن هکرها تبلیغ می‌شود، منتشر کردند.

به گفته کاربر انجمن، پروژه WormGPT قصد دارد یک “جایگزین” برای ChatGPT باشد، “یکی که به شما امکان می دهد انواع کارهای غیرقانونی را انجام دهید و در آینده به راحتی آن را به صورت آنلاین بفروشید.”

همچنین: کلاهبرداران از هوش مصنوعی برای جعل هویت عزیزان شما استفاده می کنند. در اینجا چیزی است که باید مراقب آن باشید

SlashNext به ابزاری که به عنوان یک ماژول هوش مصنوعی بر اساس مدل زبان GPTJ توصیف شده است، دسترسی پیدا کرد. WormGPT ظاهراً با منابع داده از جمله اطلاعات مربوط به بدافزار آموزش دیده است – اما مجموعه داده های خاص فقط برای نویسنده WormGPT شناخته شده است.

برای مثال WormGPT ممکن است کدهای مخرب تولید کند یا ایمیل‌های فیشینگ قانع‌کننده ایجاد کند.

WormGTP به عنوان “شبیه ChatGPT است اما هیچ مرز یا محدودیت اخلاقی ندارد.”

ChatGPT دارای مجموعه ای از قوانین است که سعی می کند کاربران را از سوء استفاده غیراخلاقی از چت بات جلوگیری کند. این شامل امتناع از انجام وظایف مربوط به جرم و بدافزار است. با این حال، کاربران به طور مداوم راه هایی برای دور زدن این محدودیت ها پیدا می کنند.

محققان توانستند از WormGPT برای ایجاد ایمیلی استفاده کنند که هدف آن تحت فشار قرار دادن یک مدیر حساب غیرقانونی برای پرداخت یک فاکتور تقلبی بود. تیم از اینکه چگونه مدل زبان این کار را به خوبی مدیریت کرد، شگفت زده شد و نتیجه را “به طرز قابل توجهی متقاعدکننده” نامید [and] همچنین از نظر استراتژیک حیله گر است.”

همچنین: جی‌میل به شما کمک می‌کند ایمیل‌هایتان را هم‌اکنون بنویسید: نحوه دسترسی به ابزار جدید هوش مصنوعی گوگل

در حالی که آنها نگفتند که آیا سرویس نوشتن بدافزار را امتحان کرده‌اند یا خیر، قابل قبول است که ربات هوش مصنوعی بتواند – با توجه به اینکه محدودیت‌های ChatGPT وجود ندارد.

طبق گزارش کانال تلگرامی که برای تبلیغ این ابزار راه اندازی شده است، پست های مشاهده شده توسط مجله هشت پیک نشان می دهد که توسعه دهنده در حال ایجاد یک مدل اشتراک برای دسترسی است که از 60 تا 700 دلار متغیر است. یکی از اعضای کانال، “darkstux” ادعا می کند که در حال حاضر بیش از 1500 کاربر WormGPT وجود دارد.

خیر. ChatGPT توسط OpenAI، یک سازمان قانونی و محترم، توسعه یافته است. WormGMT ساخته آنها نیست و نمونه ای از این است که چگونه مجرمان سایبری می توانند از چت ربات های پیشرفته هوش مصنوعی برای توسعه ابزارهای مخرب خود الهام بگیرند.

حتی در دست افراد تازه کار و کلاهبردار معمولی شما، مدل‌های زبان طبیعی می‌توانند کلاهبرداری‌های فیشینگ و BEC را که به راحتی از آن جلوگیری می‌شود، به عملیات‌های پیچیده تبدیل کنند. شکی نیست که در جایی که قرار است پول به دست بیاید، مجرمان سایبری پیشتاز خواهند بود — و WormGPT تنها شروع طیف جدیدی از ابزارهای مجرمان سایبری است که قرار است در بازارهای زیرزمینی معامله شوند.

همچنین: 6 مهارتی که برای تبدیل شدن به یک مهندس سریع هوش مصنوعی نیاز دارید

همچنین بعید است که WormGPT تنها موجود موجود باشد.

• یوروپل: یوروپل در گزارش سال 2023، “تاثیر الگوهای زبانی بزرگ بر اجرای قانون” گفت که “نظارت بسیار مهم خواهد بود. […] توسعه، به عنوان LLM های تاریک (مدل های زبان بزرگ) آموزش دیده برای تسهیل خروجی مضر ممکن است تبدیل به یک مدل کسب و کار جنایی کلیدی در آینده شود. این چالش جدیدی را برای مجریان قانون ایجاد می کند، به طوری که انجام فعالیت های مجرمانه بدون دانش قبلی برای عوامل مخرب آسان تر از همیشه خواهد شد.”
• کمیسیون تجارت فدرال: FTC در حال بررسی OpenAI سازنده ChatGPT در مورد سیاست های استفاده از داده و عدم دقت است.
• آژانس ملی جرم و جنایت بریتانیا (NCA): NCA هشدار می دهد که هوش مصنوعی می تواند باعث انفجار در خطر برای جوانان و سوء استفاده شود.
• دفتر کمیسیون اطلاعات بریتانیا (ICO): ICO به سازمان‌ها یادآوری کرده است که ابزارهای هوش مصنوعی آن‌ها همچنان به قوانین حفاظت از داده‌های موجود پایبند هستند.

نه بدون تاکتیک‌های مخفی، اما با تذکرات مناسب، می‌توان بسیاری از مدل‌های زبان طبیعی را به اقدامات و وظایف خاص متقاعد کرد.

برای مثال ChatGPT می‌تواند ایمیل‌های حرفه‌ای، نامه‌های پوششی، رزومه، سفارش‌های خرید و موارد دیگر را پیش‌نویس کند. این به تنهایی می‌تواند برخی از رایج‌ترین شاخص‌های ایمیل فیشینگ را حذف کند: اشتباهات املایی، مشکلات گرامری، و مشکلات زبان ثانویه. به خودی خود، این امر به تنهایی می تواند برای کسب و کارهایی که سعی در شناسایی و آموزش کارکنان خود برای تشخیص پیام های مشکوک دارند، دردسر ایجاد کند.

محققان SlashNext می گویند، “مجرمان سایبری می توانند از چنین فناوری برای ایجاد خودکار ایمیل های جعلی بسیار متقاعد کننده، شخصی سازی شده برای گیرنده استفاده کنند، بنابراین شانس موفقیت برای حمله را افزایش می دهند.”

همچنین: 7 نکته پیشرفته برای نوشتن سریع ChatGPT که باید بدانید

برای دستورالعمل های گام به گام در مورد استفاده از ChatGPT برای مقاصد قانونی، راهنمای مجله هشت پیک در مورد نحوه شروع استفاده از ChatGPT را بررسی کنید.

استفاده از ChatGPT رایگان است. از این ابزار می توان برای پاسخ دادن به سوالات عمومی، نوشتن محتوا و کد، یا ایجاد اعلان برای همه چیز از داستان های خلاق گرفته تا پروژه های بازاریابی استفاده کرد.