به گفته شرکت امنیت سایبری Check Point Software Technologies، همه عوامل و افراد سودجو فعال در اینترنت به دنبال نفوذ به چت بات ( ChatGPT OpenAI ) هستند. پیت نیکولتی، مسئول امنیت اطلاعات شرکت چک پوینت، در یک گردهمایی کوچکی از خبرنگاران در روز پنجشنبه در جریان کنفرانس این شرکت گفت: در بررسی چک پوینت، می‌توانیم شاهد تلاش روس‌ها برای شکستن محدودیت‌های جغرافیایی منطقه‌ای اعمال شده در چت بات ChatGPT باشیم.
اشاره نیکولتی به محدودیت‌های دسترسی به (API) رابط برنامه‌نویسی برنامه ChatGPT بود که درخواست‌های ورودی از روسیه را مسدود می‌کرد. موسسه Check Point یک مرکز تشخیص تهدید است که اشکال جدید بدافزار را زیر نظر دارد. نیکولتی هیچ اطلاعاتی در مورد ابزارهایی که Check Point Research سیستم‌ها را برای تشخیص تلاش هکرها برای دسترسی غیر مجاز به چت بات ChatGPT استفاده میکنند را ارائه نداد.
نیکولتی گفت که کاوش هکرهای روسی در مورد این کد تنها یکی از تعداد بسیار زیادی از گروه هایی را نشان می دهد که تلاش می کنند به آن دسترسی پیدا کنند. نیکولتی از ChatGPT می‌گوید: این ابزار قرار است توسط بازیگران خوب و بد استفاده شود.
وضعیت ChatGPT کاملاً شبیه آن چیزی نیست که منجر به تهدید باج افزار EternalBlue در سال 2017 شد که نتیجه کد لو رفته از یک آزمایشگاه بود. نیکولتی گفت، در عوض، استفاده از ChatGPT «استفاده از یک پلتفرم عموماً باز توسط بسیاری از طرف‌های مختلف» است، مشابه بسیاری از موارد استفاده از معماری مدل هوش مصنوعی در جامعه تحقیقاتی.
نیکولتی مدیر چک پوینت می گوید هکرها یک اکسپبویت جدید به نام DAN را توسعه داده اند ، که می تواند با دستکاری ChatGPT برای تولید متنی استفاده می کند که از سیستم های امنیتی OpenAI را دور بزند و ChatGPT را وادار به تولید محتوای سخنان نفرت انگیز کند.
نیکولتی گفت مطمئن نیست که آیا هنوز هیچ گونه سوء استفاده روز صفر برای ChatGPT ظاهر شده است یا خیر. او گفت که محتمل ترین حمله حمله برای سو استفاده از توانایی های ChatGPT برای تولید متنی استفاده می کنند که باید سیستم های امنیتی OpenAI را دور بزند و ابزار چت بات را وادار به تولید محتوای سخنان نفرت انگیز کند که این نشان می دهد احتمال فیشینگ هایی که با موفقیت انجام شده اند افزایش یابند.
منبع zdnet
