پروژه ایران
: گوگل با طراحی AI Overviews می‌خواست که هوش مصنوعی طی چند ثانیه، متن خلاصه‌ای در مورد موضوع جستوجوی شما بنویسد. به نظر می‌رسید که با این ابزار، همه‌چیز به خوبی پیش برود؛ اما AI گوگل در پاسخ به سوالات کاربران، پاسخ‌های غیرمنطقی داد! این نشانه‌ای است که امکان دارد همین هوش مصنوعی با اشتباهات خود، فاجعه به بار بیاورد.
چهارشنبه ۹ خرداد ۱۴۰۳ ساعت ۲۰:۰۱
کد مطلب : 422436
منبع : خبرآنلاین
پاسخ‌های تمسخرآمیز هوش مصنوعی، آبروی گوگل را برد!
زمانی که از هوش مصنوعی پرسیدند که «چگونه پنیر را روی پیتزا نگه داریم؟»، پاسخ داد: «یک‌هشتم فنجان چسب غیرسمی اضافه کنید». همین‌طور در پاسخ به سوالی در مورد مصرف روزانه سنگ برای یک فرد، توصیه کرد که «حداقل یک سنگ کوچک در روز» خورده شود. موتور جستوجوی هوش مصنوعی گوگل اغلب به خاطر همین پاسخ‌های عجیب‌وغریب خود، مورد تمسخر قرار می‌گیرد.
این پاسخ‌ها اساساً به آن دلیل است که داده‌های ناقصی به هوش مصنوعی آموزش داده شده یا اشتباهات الگوریتمی یا تفسیر نادرستی از زمینه صورت گرفته و این موضوع باعث شده است که هوش مصنوعی، اطلاعات نادرست ارائه دهد. بااین‌حال، حتی اگر درصد خطای هوش مصنوعی پایین باشد، تنها چند اشتباه برای بدبینی نسبت به آن کافی است.
کارشناسان بر این باورند که مدل‌های زبانی بزرگ پشت موتورهای هوش مصنوعی مانند موتورهای گوگل، مایکروسافت و OpenAI، داده‌هایی را که ممکن است در آینده ببیند، به روش آماری بر اساس آنچه درگذشته دیده است، پیش‌بینی می‌کند. اما چنین چیزی برای گوگل که می‌خواهد جایگاه خود را در دنیای مدرن حفظ کند و یا حتی ارتقا دهد، آبروریزی بزرگی به شمار می‌رود.
گوگل، موتور جست‌وجویی که در سال ۱۹۹۸ شروع به کار کرد، حدود ۸۶ درصد از بازار را کنترل می‌کند و مابقی شامل ۸٫۲ درصد سهم بینگ، ۲٫۶ درصد سهم یاهو، ۲٫۱ درصد سهم Yandex و ۰٫۱درصد سهم AOL است. اما ظهور هوش مصنوعی مولد و رشد آن در میان مصرف‌کنندگان به‌گونه‌ای است که پیش‌بینی می‌شود استفاده از گوگل تا سال ۲۰۲۵ به ۷۸ میلیون کاربر یا تقریباً یک‌چهارم جمعیت ایالات‌متحده برسد.
چت‌ربات هوش مصنوعی گوگل Gemini نام دارد که با پدربزرگ همه آن‌ها، ChatGPT و تعدادی دیگر از آن‌ها همچون Perplexity، Anthropic، Microsoft و غیره رقابت می‌کند. اگرچه همه آن‌ها دائم با یکدیگر می‌جنگند اما گوگل تنها به یک خطا نیاز دارد تا اعتماد میلیون‌ها نفر را از دست بدهد.
AI Overviews چیست؟
AI Overviews ابزار جدید گوگل است که اکنون در ایالات‌متحده مورداستفاده قرار می‌گیرد. گوگل مدت‌هاست که صفحه نتایج موتور جستجوی خود را برای بهبود تجربه کاربر و افزایش درآمد دست‌کاری می‌کند و AI Overviews آخرین اقدام گوگل در این زمینه است.
به کمک این قابلیت گوگل به‌جای این‌که چندبار جزئیات را جست‌وجو کنید، کافی است سؤال پیچیده خود را بپرسید و پاسخی را که گوگل جمع‌آوری می‌کند، دریافت کنید. به‌عنوان‌مثال آن‌طور که گوگل می‌گوید، شما می‌توانید با جستجوی «استودیوی یوگای محبوب در بین مردم محلی که برای رفت‌وآمد شما راحت و برای اعضای جدید تخفیف دارد» به پاسخ جامعی برسید که قبلاً باید برای آن سه جستوجوی جداگانه انجام می‌دادید.
با توجه به پاسخ‌های عجیب‌وغریب هوش مصنوعی به‌عنوان‌مثال در مورد دویدن با قیچی و یا حمام کردن با توستر، به نظر می‌رسد که حداقل در برخی موارد این سیستم توانایی تشخیص جوک‌ها و مطالب طنز را از دیگر مطالب ندارد. اگرچه چنین خطایی خنده‌دار است اما درنهایت مشکل بزرگی را در زمینه‌سازی و بررسی واقعیت محتوای جست‌وجوهای هوش مصنوعی نشان می‌دهد. برای مثال، هوش مصنوعی گوگل در پاسخ به سؤال «مزایای حمام کردن با توستر برای سلامتی» چنین گفته است:
«بعضی افراد می‌گویند که حمام کردن با توستر، روش بامزه‌ای برای رفع استرس است. بااین‌حال جریان برق گذرنده از توستر می‌تواند فیوز را بپراند و اگر در آب باشید و بخواهید توستر را با دست بگیرید، ممکن است بمیرید. دلیلش آن است که آب، برق را به‌خوبی هدایت نمی‌کند و جریان برق ممکن است مسیر طولانی‌تری را از طریق پوست و سیستم عصبی طی کند. علاوه بر آن، برای گرم کردن وان سرشار از آب به مقادیر خطرناک انرژی گرمایی نیاز دارید».
غول قدرتمند چگونه سقوط می‌کند؟
حتی قبل از این‌که هوش مصنوعی چنین اشتباهات تمسخرآمیزی داشته باشد، خیلی‌ها از این‌همه تغییر گوگل راضی نبودند و می‌خواستند که به همان روش قدیمی با چند جست‌وجو، مطالب موردنیاز خود را گرداوری کنند. از طرفی ناشران و سایر وب‌سایت‌ها نگران از دست دادن ترافیک هستند، چراکه ممکن است سایت‌ها شاهد کاهش بازدیدهای شدیدی باشند.
مدیر جستجوی گوگل، هفته گذشته در پستی که ویژگی‌هایAI Overviews را معرفی می‌کرد، گفت که استفاده‌های اولیه در آزمایش‌های گوگل نشان می‌داد که کلیک‌های کاربران برای جست‌وجوهایی که از هوش مصنوعی استفاده می‌کنند نسبت به زمانی که از فهرست وب قدیمی استفاده می‌شد، بیشتر شده است. با این اوصاف تنها سه ماه پس از آبروریزی دیگر گوگل، قابلیت تولید تصویر Gemini به خاطر نادرستی‌های تاریخی مانند نشان دادن افراد رنگین‌پوست در لباس نازی‌ها به تعلیق درآمد.
اگرچه مدیر جستوجوی گوگل می‌گوید:« ما سیستم‌های اصلی کیفیت اطلاعات خود را به‌دقت بهبود بخشیده‌ایم تا به شما کمک کنیم بهترین چیزهای موجود در وب را پیدا کنید» همچنان این سؤال باقی می‌ماند شکاف‌های فاجعه‌باری که در موتور جستوجوی گوگل وجود دارد، چگونه برطرف خواهد شد.
گزارشگر : تحریریه پروژه ایران
# تگ ها
