روز گذشته کمپانی گوگل از تصمیم خود برای متوقف کردن موقتی قابلیت تولید تصویر از اشخاص در چت‌بات Gemini، در راستای بهبود “دقت” و افزایش قابلیت “اطمینان” تصاویر تولیدشده توسط این چت‌بات خبر داد. این تصمیم به دنبال بازخورد ارائه‌شده توسط یک کاربر در شبکه‌های اجتماعی که به “عدم دقت” در فرآیند تولید تصاویر و دریافت “خروجی‌های توهین‌آمیز” از این چت‌بات هوش مصنوعی اشاره داشت، اتخاذ شده است. این تصمیم در حالی اتخاذ می‌شود که کمی پیش‌تر کمپانی گوگل از ارائه خروجی‌های مناسب و موضع بی‌طرفانه چت‌بات هوش مصنوعی جمینای (طراحی‌شده توسط مدل هوش مصنوعی Imagen 2) در تصاویر تولیدشده در پاسخ به درخواست‌های کاربران خبر داده بود!
اکنون کمپانی گوگل ضمن پذیرش این نواقص، آن‌ها را به چالش‌های متحمل‌شده فراگیر در فرآیند اصلاح مدل هوش مصنوعی به منظور جلوگیری از ارائه خروجی‌های جانب‌دارانه یا نامناسب نسبت داده است. علی‌رغم تلاش‌های انجام گرفته برای جلوگیری از وقوع این دسته از مشکلات (که در سایر فناوری‌های تولید تصویر نیز دیده می‌شد) قابلیت تولید تصویر چت‌بات هوش مصنوعی جمینای نیز با برخی از موانع دست و پا گیر روبه‌رو شد. به عنوان مثال این چت‌بات گاهی خروجی‌ها غیرمتناسب با درخواست‌های کاربر را ارائه می‌داد یا در برخی از مواقع با اعمال احتیاط بیش از حد در هنگام دریافت برخی از درخواست‌های خاص، قادر به ایجاد تصاویری درخواست‌شده از سمت کاربر نبود!
پرابهاکار راغوان (معاون ارشد کمپانی گوگل) در یک پست وبلاگی توضیح داد:
ما در تلاش هستیم تا پیش از فعال‌سازی مجدد این قابلیت از بهبود عملکرد آن اطمینان حاصل کرده و با انجام آزمایشات گسترده، ضمن اصلاح این دسته از مشکلات، از بروز مجدد آن‌ها جلوگیری نماییم.
وی در ادامه توضیحات خود به وجود چالش‌های ذاتی مبحث “قابلیت اطمینان” در هوش مصنوعی، به‌ویژه در رابطه با موضوعات حساس، اشاره داشت و از تلاش‌های بی‌وقفه کمپانی گوگل در راستای افزایش دقت در خروجی‌های ارائه‌شده توسط این فناوری خبر داد.
پیش‌تر نیز افراد برجسته‌ای همچون ایلان ماسک و ویوک راماسوامی (رهبر حزب جمهوری‌خواه ایالات متحده آمریکا) از “نادرست” بودن تصاویر تولیدشده توسط این قابلیت از منظر “تاریخی” و عدم تطابق آن‌ها با حساسیت‌های “نژادی” انتقاد کرده بودند.
این تعلیق به منزله بخشی از تلاش‌های گسترده گوگل برای توسعه مسئولانه فناوری‌های هوش مصنوعی ضمن درنظرگیری پیچیدگی‌های موجود در ایجاد سیستم‌های مبتنی بر هوش مصنوعی خلاقانه و دقیق، است. این شرکت اعلام کرده است که در حال رسیدگی به مشکلات اخیر و رفع آن‌هاست و قصد دارد به زودی یک نسخه بهبود یافته از قابلیت تولید تصویر در چت‌بات Gemini را مجدداً منتشر کند.
منبع: Gizmochina
