به نظر میرسد اوپن ایآی (OpenAI) ابزار جدید «بسیار دقیقی» دارد که قادر به تشخیص محتوای تولیدشده توسط ChatGPT، ربات هوش مصنوعی خود این شرکت است.
اما شاید خبر خوب این باشد که طبق گزارشها، اوپن ایآی قرار نیست این ابزار را عرضه کند. این کمپانی به دلیل نگرانی از دستکاری آن یا اینکه باعث شود کاربران غیر انگلیسی زبان از تولید متن با مدلهای هوش مصنوعی اجتناب کنند، عرضه آن را متوقف میکند.
پیش از این در ماه می، اوپن ایآی اعلام کردهبود در حال کار بر روی روشهای شناسایی محتوای تولیدشده توسط محصولاتش است. اما برنامههای انتشار این ابزارها به دلیل بحثهای داخلی در مورد پیامدهای انتشار آنها متوقف شدهاست.
در پی این گزارش، OpenAI پست وبلاگ ماه می خود را با اطلاعات جدیدی در مورد ابزار تشخیص محتوای هوش مصنوعی به روزرسانی کرد. خلاصه آن این است که هنوز هیچ جدول زمانی برای انتشار چنین قابلیتی وجود ندارد. این شرکت ادعا میکند که هنوز روشهایی وجود دارد که برخی میتوانند تشخیص هوش مصنوعی را دور بزنند. به همین دلیل، مایل به انتشار آن برای عموم نیست. به نظر میرسد اوپن ایآی فکر میکند با این کار غیرانگلیسیزبانها از استفاده محصولات آنها مانند چت جیپیتی دست خواهند کشید.
در حال حاضر تعدادی از محصولات و خدمات در دسترس هستند که ادعا میکنند محتوای تولیدی توسط هوش مصنوعی را شناسایی میکنند. اما هیچ یک درجه بالایی از دقت را در تحقیقات بررسیشده نشان ندادهاند.
اوپن ایآی قرار است اولین سیستم توسعهیافته داخلی را عرضه کند که برای محتوای تولیدشده توسط مدلهای این شرکت بر روشهای تشخیص واترمارک نامرئی و تشخیص اختصاصی تکیه میکند.
منبع: cointelegraph.com
