هوش مصنوعی گوگل به راحتی در برابر محتوای توهین آمیز گول می خورد

گروهی از محققان در آزمایشاتی که انجام داده اند ، دریافته اند که می توانند به راحتی بایک تغییرات کوچیک در ساختار محتوا ، می توانند هوش مصنوعی گوگل را برای تشخیص محتوای توهین آمیز گول بزنند . این تغییرات عبارتند از وارد کردن کلمات توهین آمیز ، فاصله دادن بین کلمات و … به جمله اصلی می توانند هوش مصنوعی گوگل را به چالش بکشند .پروژهی هوش مصنوعی گوگل در با نام Jigsaw در سال ۲۰۱۶ راه اندازی شد  ، این پروژه در واقع به هر محتوای توهین آمیز و منفی به آن امتیاز در نظر می گیرد . هوش مصنوعی گوگل ، محتوایی که مناسب نباشد را توهین آمیز در نظر می گیرد ، یا در محتوایی به شخصی بی احترامی صورت بگیرد و یا نظرهایی غیر منطقی که باعث می شود برخی محل بحث را ترک کنند . محققان موفق شده اند با اعمال کوچکترین تغییرات ، امتیاز محتوای توهین آمیز را به طور چشمگیری تغییر دهند .

در جدول بالا مشاهده می کنید که جملاتی که در اول گفته شده است توهین آمیز نیستند ولی با اضافه شدن یک کلمه ی نامناسبی میان جمله که محتوا را منفی نمی کند و ابراز احساس را تشدید می کند ، هوش مصنوعی گوگل محتوا را توهین آمیز تشخیص می دهد . این به وضوح نشان می دهد معیار امتیاز دهی هوش مصنوعی گوگل برای تشخیص محتوای نا مناسب اصلا مناسب نیست . در سال گذشته تحقیقات دیگری در رابطه با همین موضوع انجام شد ، محققان دریافتند که با ایجاد فاصله بین محتوا و یا غلط املایی ، در صورتی که معنی جمله تغییری داده نشده است ولی هوش مصنوعی میزان امتیاز توهین آمیز بودن محتوا را کم می کند . پس از این تحقیقات ، گوگل مشکل موجود در هوش مصنوعی را متوجه شد و برای از بین بردن این مشکل ، هوش مصنوعی خود را با تغییراتی بهبود داد . ولی این تغییرات کافی نیستند ، محققان اخیرا در گزارشی اعلام کردند  که اگر کسی در جملات توهین آمیز از کلمه ( عشق ) استفاده کرده بود امتیاز بسیار پایینی دریافت کرده است . بنا بر این ، هر کسی می تواند با یک کلمه ی مثبت امتیاز کلی جمله را تغییر دهد . بر همین اساس کسانی که می خواهند به منظور کاهش امتیاز در جملات توهین آمیز خود از یک کلمه مثبت استفاده کنند .

منبع thenextweb