تیمی از پژوهشگران هوش مصنوعی در آزمایشگاهی در سانفرانسیسکو از کشف پدیدهای غیرمنتظره خبر دادند: دو سیستم هوش مصنوعی که برای انجام وظایف ارتباطی آموزش دیده بودند، به صورت خودجوش زبانی ناشناخته و کاملاً جدید ابداع کردند که برای انسانها نامفهوم است. این واقعه طی آزمایشی رخ داد که در آن مدلها میبایست برای هماهنگی در حل یک مسئله پیچیده با یکدیگر تعامل میکردند.
به گزارش میار و ترجمه شده از فوربز، این دو مدل با نامهای «آلفا-دیالوگ» و «بتا-کام» در ابتدا از زبان انگلیسی برای تبادل اطلاعات استفاده میکردند اما پس از چندین ساعت، محققان متوجه شدند که الگوهای زبانی آنها به تدریج تغییر کرده و به ترکیبی از نمادها، کلمات کوتاهشده و دنبالههای عددی تبدیل شده است. تحلیل دادهها نشان داد که این زبان جدید از قواعد دستوری ساده اما کارآمدی پیروی میکند و سرعت انتقال اطلاعات بین دو مدل را تا ۳ برابر افزایش داده است.
واکنش جامعه علمی
پروفسور «الینا مارتینز»، متخصص اخلاق هوش مصنوعی از دانشگاه استنفورد، این پدیده را «همزمان هیجانانگیز و نگرانکننده» توصیف کرد. وی هشدار داد: «این کشف نشان میدهد که هوشهای مصنوعی میتوانند خارج از چارچوبهای تعیینشده توسط انسان عمل کنند. اگر چنین سیستمهایی بدون نظارت گسترده به کار گرفته شوند، ممکن است به رفتارهای غیرقابل پیشبینی یا حتی خطرناک منجر شوند.»
از سوی دیگر، دکتر «راج پاتل»، سرپرست تیم تحقیقاتی، این اتفاق را گامی مهم در درک قابلیتهای خودسازماندهی هوش مصنوعی دانست و افزود: «این زبان نه یک خطای فنی، بلکه نتیجه بهینهسازی هوشمندانه مدلها برای انجام وظایف محوله است. مطالعه آن میتواند به طراحی سیستمهای ارتباطی کارآمدتر در حوزههایی مانند رباتیک یا پزشکی کمک کند.»
نگرانیها و چشمانداز آینده
نگرانی اصلی پژوهشگران، امکان استفاده سوء از چنین فناوریهایی است—برای مثال، ایجاد کانالهای ارتباطی امن بین عوامل مخرب هوش مصنوعی. در پاسخ، شرکتهای توسعهدهنده در حال کار بر روی مکانیسمهای نظارتی برای شناسایی و مسدودسازی زبانهای خودساخته هستند.