اعتراف ترسناک محققان: هوش مصنوعی پیشرفته غیر قابل کنترل است!

در نهایت محققان به این سوال پاسخ داده اند که آیا انسان قادر به کنترل هوش مصنوعی پیشرفته خواهد بود یا خیر؟ پاسخ به این سوال ترسناک و قابل تامل است.

ایده هوش مصنوعی که بشریت را تحت الشعاع قرار می دهد مدت هاست که موضوع داغ فیلم های علمی تخیلی بوده است. اما با وجود تصویرسازی اغراق آمیز از این مشکل در سینما، ترس انسان از این مشکل پابرجاست!

در همین راستا، سرانجام در سال 2021، محققان به این سوال مهم پاسخ دادند که آیا انسان قادر به کار با کامپیوترهای پیشرفته و فوق هوشمند خواهد بود یا خیر؟ همانطور که در کابوس هایمان دیده ایم، تنها یک پاسخ برای این سوال وجود دارد خیر تعیین کننده است!

چرا یک کامپیوتر فوق هوشمند غیرقابل کنترل است؟

نکته مهم در مورد تسلط بر سیستم های مبتنی بر هوش مصنوعی این است که کنترل یک ابر هوش مصنوعی که فراتر از درک بشریت عمل می کند، نیازمند شبیه سازی دقیق جزئیات آن است. بنابراین تمام ابعاد آن در شبیه سازی گنجانده شده و روش های کنترل آن بررسی می شود. با این حال، با توجه به اینکه احتمالاً قادر به درک تمام ابعاد یک هوش مصنوعی پیشرفته نخواهیم بود، شبیه سازی و در نتیجه کنترل آن پیچیده است.

علاوه بر این، زمانی که مکانیسم تفکر و عملکرد این کامپیوترهای هوشمند را ندانیم، تعیین قوانین و محدودیت هایی مانند «آسیب نزنید» امکان پذیر نخواهد بود. به گفته نویسندگان مقاله جدیدی در این زمینه، وقتی یک سیستم کامپیوتری در سطحی فراتر از درک برنامه نویسان عمل می کند، محدود کردن آن بی معنی است.

به گفته این دانشمندان:

هوش مصنوعی پیشرفته کاملاً متفاوت از آنچه ما به عنوان اخلاق روبات می شناسیم رفتار خواهد کرد.

یک عامل تاثیرگذار مهم در این زمینه این است که ربات ها عملکردی همه کاره دارند و می توانند از چندین منبع به طور همزمان برای دستیابی به اهداف تعیین شده استفاده کنند. این اهداف همانطور که گفته شد نه تنها برای انسان غیرقابل کنترل هستند، بلکه حتی می توانند غیرقابل درک باشند.

بخش عمده ای از استدلال های تیم تحقیقاتی در زمینه کنترل پذیری با هوش مصنوعی است مشکل تعلیق در سال 1936 توسط آلن تورینگ پیشنهاد شد. مشکل توقف به امکان یافتن پاسخ یا نتیجه برای یک برنامه کامپیوتری (و در نتیجه توقف آن) یا اجرای برنامه برای همیشه مربوط می شود.

آلن تورینگ با برخی محاسبات پیچیده ریاضی نشان داد که علیرغم اینکه می توان محدودیت اجرای برخی از برنامه های کامپیوتری را تخمین زد. اما به طور کلی، هیچ راهی برای پیش بینی زمان توقف یک برنامه کامپیوتری وجود ندارد.

از سوی دیگر، هوش مصنوعی پیشرفته همچنین قادر است تمام برنامه های اجرایی کامپیوتری را به سادگی در حافظه بنویسد.

حال تصور کنید برنامه نویسان برنامه ای ایجاد کنند تا هوش مصنوعی را به قوانینی مانند محدود کردن محدود کند به مردم صدمه نزن یا نه نابود کردن دنیا طرح! بر اساس آنچه گفته شد، تضمین ماندگاری یا تکمیل آن از نظر ریاضی غیرممکن است! بنابراین نمی توان با قاطعیت اعلام کرد که در صورت ظهور رایانه های فوق هوشمند، کدهای ما قادر به متوقف کردن یا حتی کنترل آنها هستند یا خیر!

یک روش جایگزین برای کنترل کامپیوترهای فوق هوشمند

همانطور که در بالا ذکر شد، کنترل یک هوش مصنوعی پیشرفته از طریق برنامه نویسی روش قابل اعتمادی نیست. با این حال، راه دیگری برای جلوگیری از نابودی جهان توسط هوش مصنوعی وجود دارد.

مسیر معقول در این زمینه محدود کردن دسترسی یا قابلیت آن هوش مصنوعی است. بنابراین یک کامپیوتر فوق هوشمند که قصد نابودی جهان را دارد به برخی از شبکه های حساس دسترسی نخواهد داشت. راه مطمئن برای این کار قطع دسترسی برخی پایگاه های حساس به اینترنت است!

مقاله بررسی شده نیز این ایده را رد می کند. چون فکر می کند به این ترتیب هوش مصنوعی از همان ابتدا نمی تواند به سطح بالایی از هوش برسد! علاوه بر این، نویسندگان این محققان ادعا می کنند که دلیل هوشمند شدن بیش از حد رایانه با هوش مصنوعی، دسترسی بالای به امکانات، شبکه ها و سیستم های مختلف است.

بر اساس آنچه در این متن گفته شد، اگر قصد داریم فناوری هوش مصنوعی را به همین روش توسعه دهیم، باید احتمال هوشمند شدن این سیستم را به اندازه ای که از درک انسان خارج شود، در محاسبات خود لحاظ کنیم. ! بنابراین لازم است به سوالات مهمی در مورد جهت حرکت خود با هوش مصنوعی پاسخ دهیم.

در همین راستا، مانوئل سبرین، دانشمند داده در موسسه ماکس پلانک آلمان، اظهار نظر قابل تامل زیر را در مورد فناوری های پیشرفته هوش مصنوعی در سال 2021 بیان کرد:

با وجود این واقعیت که ایده یک هوش مصنوعی پیشرفته که می تواند دستگاه های مختلف را کنترل کند شبیه یک سناریوی فیلم علمی تخیلی به نظر می رسد. اما در حال حاضر نیز کامپیوترهایی مبتنی بر هوش مصنوعی وجود دارند که برخی از وظایف پیچیده را بدون اینکه برنامه نویسان مکانیسم کار را درک کنند، انجام می دهند!

بر این اساس سوال اینجاست که چه زمانی هوش مصنوعی خارج از کنترل انسان است و تصمیم به حکومت می گیرد!