“پدر اینترنت” به سرمایه گذاران در مورد چت بات های هوشمند هشدار می دهد

وینت سرف، که به عنوان پدر اینترنت شناخته می‌شود، روز دوشنبه زمانی که از سرمایه‌گذاران خواست هنگام سرمایه‌گذاری در کسب‌وکارهایی که بر روی چت‌ربات‌های مکالمه ساخته شده‌اند، مراقب باشند، کمی انتقاد کرد.

سرف، معاون گوگل که یک ربات چت هوش مصنوعی به نام Bard در حال توسعه دارد، تأیید کرد که ربات‌ها هنوز هم اشتباهات زیادی مرتکب می‌شوند.

هنگامی که ChatGPT، یک ربات توسعه یافته توسط OpenAI، از او خواسته شد که یک بیوگرافی در مورد آن بنویسد، بسیاری از چیزها اشتباه بود، او در اجلاس TechSurge Deep Tech Summit که توسط شرکت سرمایه گذاری خطرپذیر Celesta برگزار شد و در موزه تاریخ کامپیوتر برگزار شد، به مخاطبان گفت. در مانتین ویو، کالیفرنیا.

“مثل شلیک سالاد است. او مخلوط می کند [facts] با توجه به سیلیکون آنگل، سرف گفت.

او به سرمایه گذاران توصیه کرد که از این فناوری حمایت نکنند زیرا به نظر جالب می رسد یا “سر و صدا” ایجاد می کند.

سرف همچنین توصیه کرد که هنگام سرمایه گذاری در هوش مصنوعی ملاحظات اخلاقی را در نظر بگیرند.

او گفت: “مهندسانی مانند من باید مسئول تلاش برای یافتن راهی برای مهار برخی از این فناوری‌ها باشند، بنابراین احتمال ایجاد مشکل کمتری وجود دارد.”

نظارت انسانی لازم است

همانطور که سرف اشاره می کند، برای شرکت هایی که برای ورود به مسابقه هوش مصنوعی کمی دچار مشکل می شوند، مشکلاتی وجود دارد.

گرگ استرلینگ، یکی از بنیانگذاران Near Media، یک سایت خبری، تفسیری و تحلیلی، خاطرنشان کرد که نادرستی، اطلاعات نادرست، سوگیری و نتایج توهین‌آمیز همگی خطرات احتمالی شرکت‌ها هنگام استفاده از هوش مصنوعی هستند.

استرلینگ به TechNewsWorld گفت: «خطرات به موارد استفاده بستگی دارد. آژانس‌های دیجیتالی که بیش از حد به ChatGPT یا سایر ابزارهای هوش مصنوعی برای ایجاد محتوا یا تکمیل کار برای مشتریان متکی هستند، می‌توانند نتایجی کمتر از حد مطلوب ایجاد کنند یا به نحوی به مشتری آسیب برسانند.»

با این حال، او تاکید کرد، کنترل و تعادل قوی انسانی و نظارت می تواند این خطرات را کاهش دهد.

Mark N. Vena، رئیس و تحلیلگر اصلی SmartTech Research در سن خوزه، کالیفرنیا هشدار داد که شرکت‌های کوچک بدون تجربه فناوری باید قبل از تصمیم‌گیری در مورد هوش مصنوعی احتیاط کنند.

ونا به TechNewsWorld گفت: «حداقل، هر شرکتی که هوش مصنوعی را در روش انجام تجارت خود ادغام می کند، باید پیامدهای آن را درک کند.

وی ادامه داد: “حریم خصوصی – به ویژه در سطح مشتری – به وضوح یک منطقه نگرانی بزرگ است.” شرایط و ضوابط استفاده باید بسیار واضح باشد و همچنین مسئولیت در صورتی که توانایی هوش مصنوعی محتوا تولید کند یا اقداماتی را انجام دهد که شرکت را در برابر مسئولیت‌های احتمالی باز می‌کند، مشخص باشد.

اخلاق باید بررسی شود

در حالی که سرف دوست دارد کاربران و توسعه دهندگان هوش مصنوعی هنگام عرضه محصولات هوش مصنوعی به بازار، اخلاقیات را در نظر بگیرند، این می تواند کار دشواری باشد.

استرلینگ خاطرنشان می‌کند: «بیشتر شرکت‌هایی که از هوش مصنوعی استفاده می‌کنند بر روی کارایی، صرفه‌جویی در زمان و هزینه تمرکز می‌کنند. برای اکثر آنها، اخلاق یک نگرانی ثانویه یا حتی عدم توجه خواهد بود.»

وینا اضافه کرد که مسائل اخلاقی وجود دارد که باید قبل از اینکه هوش مصنوعی به طور گسترده مورد استفاده قرار گیرد، مورد توجه قرار گیرد. وی به عنوان نمونه به بخش آموزش اشاره کرد.

“آیا برای یک دانش آموز اخلاقی است که مقاله ای را که به طور کامل از یک ابزار هوش مصنوعی استخراج شده است ارسال کند؟” پرسیده شد. حتی اگر محتوا به‌طور دقیق سرقت ادبی نباشد، زیرا می‌تواند «اصیل» باشد، من فکر می‌کنم اکثر مدارس – به‌ویژه در سطح دبیرستان و کالج – آن را عقب می‌اندازند.»

او گفت: «مطمئن نیستم که رسانه‌های خبری از استفاده از ChatGPT توسط روزنامه‌نگارانی که رویدادهای بلادرنگ را گزارش می‌کنند و اغلب بر قضاوت‌های انتزاعی که ابزار هوش مصنوعی ممکن است با آن‌ها دست و پنجه نرم می‌کند، گزارش می‌کنند، هیجان زده شوند.

وی ادامه داد: «اخلاق باید نقش مهمی ایفا کند، به همین دلیل است که باید یک آیین نامه رفتاری برای هوش مصنوعی وجود داشته باشد که شرکت ها و حتی رسانه ها مجبور به موافقت با آن شوند و همچنین این شرایط انطباق را بخشی از شرایط و ضوابط قرار دهند. با استفاده از ابزارهای هوش مصنوعی.”

عواقب ناخواسته

بن کوبرین، رئیس بخش ارتباطات و سیاست عمومی در Neeva، یک موتور جستجوی مبتنی بر هوش مصنوعی مستقر در واشنگتن دی سی، گفت: برای هر کسی که در AI دخیل است مهم است که مطمئن شود آنچه را که انجام می دهد مسئولانه انجام می دهد.

کوبرین به TechNewsWorld گفت: «بسیاری از پیامدهای ناخواسته فناوری‌های قبلی، نتیجه یک مدل اقتصادی بود که با انگیزه‌های تجاری با کاربر نهایی مطابقت نداشت. “شرکت ها باید بین ارائه خدمات به تبلیغ کننده یا کاربر نهایی یکی را انتخاب کنند. در اکثر مواقع، تبلیغ کننده برنده می شود.”

او ادامه داد: «اینترنت رایگان نوآوری باورنکردنی را ممکن کرد، اما هزینه‌های زیادی داشت.» “این هزینه مربوط به حریم خصوصی، زمان و توجه شخص بود.”

او گفت: «همین اتفاق در مورد هوش مصنوعی نیز رخ خواهد داد. آیا هوش مصنوعی در یک مدل کسب‌وکار که با کاربران یا تبلیغ‌کنندگان همسو باشد به کار می‌رود؟

به نظر می رسد که ادعاهای احتیاط سرف برای کند کردن ورود محصولات هوش مصنوعی به بازار باشد، اما بعید به نظر می رسد.

کوبرین خاطرنشان کرد: «ChatGPT صنعت را بسیار سریعتر از آنچه که کسی تصور می کرد به جلو حرکت داد.

استرلینگ افزود: “مسابقه ادامه دارد و راه برگشتی وجود ندارد.”

او گفت: «عرضه سریع این محصولات به بازار خطرات و مزایایی دارد. اما فشارهای بازار و انگیزه های مالی برای اقدام در حال حاضر بیشتر از محدودیت های اخلاقی خواهد بود. بزرگ‌ترین شرکت‌ها در مورد «هوش مصنوعی مسئولانه» صحبت می‌کنند، اما بدون توجه به آن در حال حرکت به جلو هستند. “

تکنولوژی تبدیل

سرف در سخنان خود در اجلاس TechSurge همچنین به سرمایه گذاران یادآوری کرد که همه افرادی که از فناوری های هوش مصنوعی استفاده می کنند، از آنها برای اهداف مورد نظر خود استفاده نمی کنند. او گفته است که آنها “به دنبال انجام کاری هستند که به نفع آنهاست، نه شما.”

استرلینگ خاطرنشان کرد: «دولت‌ها، سازمان‌های غیردولتی و صنعت باید برای تدوین قوانین و استانداردهایی که باید در این محصولات گنجانده شوند تا از سوء استفاده‌ها جلوگیری شود، با یکدیگر همکاری کنند.»

وی ادامه داد: چالش و مشکل این است که پویایی بازار و رقابت بسیار سریعتر و قوی تر از سیاست ها و فرآیندهای دولت پیش می رود. اما مقررات در راه است. این فقط این است که چه زمانی و چگونه به نظر می رسد.”

هودان عمر، تحلیلگر ارشد سیاست هوش مصنوعی در مرکز نوآوری داده، یک اتاق فکر که تلاقی داده ها، فناوری و سیاست عمومی را در واشنگتن دی سی مطالعه می کند، اظهار داشت: سیاست گذاران مدتی است که هوش مصنوعی را پاسخگو نگه داشته اند.

عمر به TechNewsWorld گفت: «توسعه دهندگان باید هنگام ایجاد سیستم های هوش مصنوعی مسئولیت پذیر باشند. “آنها باید اطمینان حاصل کنند که چنین سیستم هایی بر روی مجموعه داده های نماینده آموزش دیده اند.”

با این حال، او افزود، اپراتورهای سیستم های هوش مصنوعی کسانی هستند که مهم ترین تصمیمات را در مورد اینکه چگونه سیستم های هوش مصنوعی بر جامعه تأثیر می گذارد، خواهند گرفت.

کوبرین افزود: واضح است که هوش مصنوعی اینجاست که بماند. این امر بسیاری از جنبه های زندگی ما را تغییر خواهد داد، به ویژه نحوه دسترسی، مصرف و تعامل ما با اطلاعات موجود در اینترنت.”

او در پایان گفت: «این دگرگون‌کننده‌ترین و هیجان‌انگیزترین فناوری است که از زمان آیفون دیده‌ایم.