تبلیغ Google Bard یک ابزار جستجوی هوش مصنوعی جدید را نشان می دهد که یک خطای واقعی ایجاد می کند

تبلیغ ابزار جستجوی هوش مصنوعی Google Bard نشان می‌دهد که اشتباه واقعی در مورد تلسکوپ فضایی جیمز وب رخ داده است و این نگرانی‌ها را افزایش می‌دهد که این ابزارها برای ادغام در موتورهای جستجو آماده نیستند.

توسط متیو اسپارکس

تبلیغاتی برای Google Bard، هوش مصنوعی محاوره ای آزمایشی غول فناوری، به طور ناخواسته ابزاری را نشان می دهد که پاسخ واقعی و نادرستی به یک پرس و جو می دهد.

Carissa Velez از دانشگاه آکسفورد می گوید: این شواهد نشان می دهد که حرکت به سمت استفاده از چت ربات های هوش مصنوعی برای ارائه نتایج برای جستجوهای وب بسیار سریع اتفاق می افتد. او می گوید: «پتانسیل ایجاد اطلاعات نادرست در مقیاس بزرگ بسیار زیاد است.

گوگل این هفته اعلام کرد که هوش مصنوعی به نام Bard را راه‌اندازی کرده است که پس از مرحله آزمایش در موتور جستجوی آن ادغام می‌شود و به جای فهرستی از سایت‌های مرتبط، پاسخی سفارشی تایپ‌شده را به کاربران ارائه می‌دهد. موتور جستجوی چینی Baidu نیز برنامه های خود را برای پروژه مشابه اعلام کرده است و در 7 فوریه، مایکروسافت سرویس نتایج هوش مصنوعی خود را برای موتور جستجوی Bing خود راه اندازی کرد.

کارشناسان هشدار دادند دنیای جدید این خطر وجود دارد که چت ربات‌های هوش مصنوعی بتوانند پاسخ‌های نادرستی ارائه دهند که گویی واقعی هستند، زیرا آنها خروجی خود را بر اساس در دسترس بودن آماری اطلاعات به جای دقت فرموله می‌کنند.

اکنون اعلامیه‌ای از سوی گوگل در توییتر، پاسخ سردی به این سوال داشت که “چه کشفیات جدیدی از تلسکوپ فضایی جیمز وب می‌توانم به کودک 9 ساله‌ام بگویم؟” با نتایج نادرست (تصویر زیر را ببینید).

سومین پیشنهاد بارد برای “JWST برای گرفتن اولین تصاویر از سیاره ای خارج از منظومه شمسی ما” بود. اما گرانت ترمبلی از مرکز اخترفیزیک هاروارد-اسمیتسونیان اشاره کرد که این درست نیست.

“من مطمئن هستم که بارد چشمگیر خواهد بود، اما برای ثبت: JWST “اولین تصویر از سیاره ای خارج از منظومه شمسی ما را نگرفت.” اولین تصویر در عوض توسط Chauvin و همکاران (2004) با VLT/ تهیه شد. NACO با استفاده از اپتیک تطبیقی، در توییتر نوشت.

از قضا، اگر شما واقعاً در سایت اصلی گوگل، که همان سایت قدیمی گوگل است، “اولین تصویر یک سیاره فراخورشیدی چیست” را جستجو کنید، پاسخ درستی به شما می دهد و بنابراین خنده دار است که گوگل در حالی که چند میلیارد عظیم خود را پرتاب می کند. ترمبلی گفت: بازی دلار در این فضا نیویورک، حقایق را در وب سایت خود بررسی نکرد دنیای جدید.

بروس مک‌اینتاش، مدیر رصدخانه‌های UCLA و بخشی از تیمی که اولین عکس‌ها را از سیارات فراخورشیدی گرفت، نیز متوجه این خطا شد. نوشتن در توییتر: “به عنوان کسی صحبت می کنید که 14 سال قبل از پرتاب JWST از یک سیاره فراخورشیدی تصویربرداری کرده است، به نظر می رسد که باید نمونه بهتری پیدا کنید؟”

ولز می‌گوید این اشکال و نحوه عبور آن از سیستم، نمونه‌ای بارز از خطر اتکا به مدل‌های هوش مصنوعی در مواردی است که دقت اهمیت دارد.

او می گوید: “این کاملا مهم ترین نقاط ضعف سیستم های آماری را نشان می دهد. این سیستم ها برای ارائه پاسخ های قابل قبول، بر اساس تجزیه و تحلیل آماری طراحی شده اند – آنها برای ارائه پاسخ های صادقانه طراحی نشده اند.”

ولز می‌گوید: «ما قطعاً برای چیزی که در راه است آماده نیستیم. شرکت‌ها منافع مالی دارند که اولین کسانی باشند که انواع خاصی از سیستم‌ها را توسعه یا پیاده‌سازی می‌کنند، و به سرعت وارد آن می‌شوند. بنابراین ما به جامعه فرصت صحبت نمی‌دهیم. در مورد آن، در مورد آن فکر کنید، حتی خیلی با دقت فکر نکنید، همانطور که در مثال این تبلیغ مشاهده می شود.

سخنگوی گوگل گفت دنیای جدید“این اهمیت فرآیند آزمایش دقیق ما را برجسته می کند، چیزی که این هفته با برنامه آزمایش کننده معتمد خود شروع می کنیم. ما بازخورد خارجی را با آزمایش داخلی خود ترکیب می کنیم تا اطمینان حاصل کنیم که پاسخ های Bard با استانداردهای بالا برای کیفیت، امنیت و پایه مطابقت دارد. در اطلاعات دنیای واقعی.”