گوگل یک قابلیت هوش مصنوعی جدید به نام ای‌آی اورویو (AI Overview) را معرفی کرده‌است که پاسخ‌های خلاصه نادرست و خطرناک به سوالات کاربران ارائه می‌دهد. همچنین به نظر نمی‌رسد گوگل راه‌حل درستی برای حل این مشکل داشته‌باشد.
گزارش‌ها نشان می‌دهد که این سیستم، جواب‌های اشتباه و گاهی خطرناک به سوالات کاربران داده‌است. گوگل در حال حاضر تنها سوالاتی را که باعث خروجی‌های نادرست می‌شوند از سیستم حذف کرده‌است. به عنوان مثال یکی از کاربران از این موتور جستجو پرسیده بود چگونه پنیر را روی پیتزا نگه دارد. در پاسخ این سیستم هوش مصنوعی گفته‌بود که باید از چسب استفاده کند! یک مورد دیگر از اشتباهات فاحش این هوش مصنوعی، ای‌آی اورویو ظاهراٌ به کاربران گفته‌بود که دو سگ صاحب یک هتل هستند.
در حالی که بسیاری از این نتایج نادرست، طنز یا بی ضرر به نظر می‌رسند، اما نگرانی اصلی این است که مدل مذکور، نتایج نادرست و درست را با اطمینان ظاهری یکسانی تولید می‌کند. در واقع کاربر اگر کمی بی توجهی کند، تصور می‌کند که پاسخ درست همین است و گاهاٌ ممکن است چنین چیزی دردسر ساز باشد.
حال نماینده گوگل بر این باور است که این مشکل، ناشی از «سوالات غیرمعمول» کاربران است. اما روشن نیست که کاربران چگونه باید از چنین سوالاتی اجتناب کنند. در اصل، به نظر می‌رسد که گوگل در حال حذف اتفاقی پاسخ‌های غلط است.
قابل ذکر است در حالی که به نظر می‌رسد سیستم هوش مصنوعی گوگل هنوز برای رفع مشکلات نیاز به توسعه دارد، ایلان ماسک، موسس شرکت رقیب سازنده هوش مصنوعی یعنی xAI معتقد است این مدل‌ها تا قبل از پایان سال 2025 از توانایی‌های انسانی پیشی خواهند گرفت.
منبع: cointelegraph.com
