شرکت توسعه‌دهنده چت جی‌پی‌تی (ChatGPT)، یعنی اوپن ای‌آی (OpenAI)، می‌گوید آخرین نسخه چت‌بات هوش مصنوعی آن‌ها از نظارت بر محتوا پشتیبانی می‌کند و باعث افزایش کارایی پلتفرم‌های رسانه‌های اجتماعی با تسریع در پردازش وظایف چالش برانگیز می‌شود.
با ChatGPT-4 می‌توان محتوای نامناسب و غیر اخلاقی را فیلتر کرد
این شرکت می‌گوید مدل GPT-4 آن می‌تواند به طور قابل توجهی زمان بندی نظارت بر محتوا را از ماه‌ها به چند ساعت برساند. همچنین دسته‌بندی محتوا را بهبود می‌بخشد. موضوع نظارت بر محتوا برای شرکت‌های رسانه اجتماعی مانند متا، سازنده فیسبوک و اینستاگرام مسئله‌ای بسیار چالش برانگیز است. همچنین نیاز به هماهنگی ناظران متعدد در سطح جهانی برای جلوگیری از دسترسی کاربران به مطالب مضر مانند صحنه‌های جنسی نامناسب و تصاویر بسیار خشن دارد.
اوپن ای‌آی می‌گوید: « «فرآیند (نظارت بر محتوا) ذاتاً زمان‌بر است و می‌تواند منجر به استرس ذهنی برای مدیران انسانی شود. با این سیستم، روند توسعه و سفارشی‌سازی خط مشی‌های محتوا از ماه‌ها به ساعت‌ها کاهش می یابد.»
طبق این بیانیه، سازنده ChatGPT-4 به طور فعال در حال بررسی استفاده از مدل‌های زبانی بزرگ (LLM) برای مقابله با این مسائل است. مدل‌های زبانی آن، می‌توانند با هدایت دستورالعمل‌های خط‌مشی تصمیمات نظارتی را اتخاذ کنند.
هدف این شرکت استفاده از مدل‌هایی برای شناسایی محتوای بالقوه مضر بر اساس توضیحات گسترده آسیب است. بینش‌های به‌دست‌آمده از این تلاش‌ها به اصلاح خط‌مشی‌های محتوای فعلی یا ایجاد سیاست‌های جدید در حوزه‌های پرریسک ناشناخته کمک می‌کند.
منبع cointelegraph.com
