هوش مصنوعی گوگل به راحتی در برابر محتوای توهین آمیز گول می خورد

گروهی از محققان در آزمایشاتی که انجام داده اند ، دریافته اند که می توانند به راحتی بایک تغییرات کوچیک در ساختار محتوا ، می توانند هوش مصنوعی گوگل را برای تشخیص محتوای توهین آمیز گول بزنند . این تغییرات عبارتند از وارد کردن کلمات توهین آمیز ، فاصله دادن بین کلمات و … به جمله اصلی می توانند هوش مصنوعی گوگل را به چالش بکشند .پروژهی هوش مصنوعی گوگل در با نام Jigsaw در سال ۲۰۱۶ راه اندازی شد  ، این پروژه در واقع به هر محتوای توهین آمیز و منفی به آن امتیاز در نظر می گیرد . هوش مصنوعی گوگل ، محتوایی که مناسب نباشد را توهین آمیز در نظر می گیرد ، یا در محتوایی به شخصی بی احترامی صورت بگیرد و یا نظرهایی غیر منطقی که باعث می شود برخی محل بحث را ترک کنند . محققان موفق شده اند با اعمال کوچکترین تغییرات ، امتیاز محتوای توهین آمیز را به طور چشمگیری تغییر دهند .

در جدول بالا مشاهده می کنید که جملاتی که در اول گفته شده است توهین آمیز نیستند ولی با اضافه شدن یک کلمه ی نامناسبی میان جمله که محتوا را منفی نمی کند و ابراز احساس را تشدید می کند ، هوش مصنوعی گوگل محتوا را توهین آمیز تشخیص می دهد . این به وضوح نشان می دهد معیار امتیاز دهی هوش مصنوعی گوگل برای تشخیص محتوای نا مناسب اصلا مناسب نیست . در سال گذشته تحقیقات دیگری در رابطه با همین موضوع انجام شد ، محققان دریافتند که با ایجاد فاصله بین محتوا و یا غلط املایی ، در صورتی که معنی جمله تغییری داده نشده است ولی هوش مصنوعی میزان امتیاز توهین آمیز بودن محتوا را کم می کند . پس از این تحقیقات ، گوگل مشکل موجود در هوش مصنوعی را متوجه شد و برای از بین بردن این مشکل ، هوش مصنوعی خود را با تغییراتی بهبود داد . ولی این تغییرات کافی نیستند ، محققان اخیرا در گزارشی اعلام کردند  که اگر کسی در جملات توهین آمیز از کلمه ( عشق ) استفاده کرده بود امتیاز بسیار پایینی دریافت کرده است . بنا بر این ، هر کسی می تواند با یک کلمه ی مثبت امتیاز کلی جمله را تغییر دهد . بر همین اساس کسانی که می خواهند به منظور کاهش امتیاز در جملات توهین آمیز خود از یک کلمه مثبت استفاده کنند .

منبع thenextweb

دیدگاهتان را بنویسید

نشانی ایمیل شما منتشر نخواهد شد.

این فیلد را پر کنید
این فیلد را پر کنید
لطفاً یک نشانی ایمیل معتبر بنویسید.
برای ادامه، شما باید با قوانین موافقت کنید

فهرست