خبر جدید | استعفای جفری هینتون، پدر هوش مصنوعی از گوگل به منظور بیان آزادانه خطرات این تکنولوژی | مایفون مگ
به گفته دکتر جفری هینتون، در حال حاضر باتu200cهای هوش مصنوعی از ما انسانu200cها هوشمندتر نیستند، اما ممکن است بهu200cزودی این اتفاق بیفتد. لازم به ذکر است، آنچه امروز در سیستمu200cهای هوش مصنوعی مثل ChatGPT مشاهده میu200cشود، در حقیقت حاصل پژوهشu200cهای پیشگامانه جفری هینتون در زمینه شبکهu200cهای عصبی و یادگیری عمیق است. در هوش مصنوعی، شبکهu200cهای عصبی سیستمu200cهایی مشابه مغز انسان هستند، چرا که مثل مغز میu200cتوانند یاد بگیرند و اطلاعات را پردازش کنند. شبکهu200cهای عصبی موجب میu200cشوند هوش مصنوعی بتواند از تجربه خود بیاموزد (درست مثل انسان). این پدیده یادگیری عمیق یا deep learning نام دارد.
جفری هینتون تابعیت دوگانه بریتانیایی-کانادایی داشته و پیش از آنکه یک دانشمند علوم کامپیوتر باشد، یک روانشناس شناختی است. طبق ادعای وی در گفتu200cوگو با BBC، بعید نیست اندوختهu200c دانش رباتu200cهای مکالمه در آینده نزدیک از سطح اطلاعاتی که یک انسان میu200cتواند در مغز خود نگه دارد، فراتر رود. به گفته هینتون، آنچه در حال حاضر شاهدش هستیم آن است که برخی موتورهای هوش مصنوعی (مثل GPT-4) از لحاظ دانش عمومی بالاتر از یک انسان هستند. البته این موتورها در زمینه استدلال و منطق هنوز به انسان نمیu200cرسند، اما از پس استدلالu200cهای ساده برمیu200cآیند. هرچند که با در نظر گرفتن نرخ پیشرفت آنها، میu200cتوان انتظار داشت که با سرعت بالایی در این زمینه پیشرفت کنند و همین مایه نگرانی خواهد بود.
در ابتدا تنها افراد کمی فکر میu200cکردند که روزی هوش مصنوعی از بشر هوشمندتر میu200cشود. همین افراد کم، بر این باور بودند که با این اتفاق سالu200cهای زیادی فاصله داریم. خود دکتر جفری هینتون این زمان را بین 30 تا 50 سال آینده میu200cدانست. اما به گفته خودش، دیگر این طور فکر نمیu200cکند.
جفری هینتون در مصاحبه با نیویورک تایمز به افرادی تحت عنوان «bad actors» یا خرابکارها اشاره کرد که قصد دارند از هوش مصنوعی سوء استفاده کنند. به باور هینتون، این بدترین شکل استفاده از هوش مصنوعی و به نوعی یک سناریوی کابوسu200cوار است. به عنوان مثال، هینتون به رییس جمهور یکی از کشورهای قدرتمند اروپا اشاره کرد که میu200cتواند تصمیم بگیرد این توانایی را به رباتu200cها بدهد که بتوانند برای خودشان اهداف جانبی تعیین کنند. این روند در نهایت میu200cتواند به شکلu200cدهی برخی اهداف جانبی خطرناک – مثل من به قدرت بیشتری نیاز دارم – منتهی شود.
هینتون در ادامه میu200cافزاید: «من به این نتیجه رسیدهu200cام که نوع هوشی که در حال توسعه آن هستیم، از هوشی که داریم بسیار متفاوت است. ما سیستمu200cهای بیولوژیک هستیم و اینها سیستمu200cهای دیجیتالند. و تفاوت اصلی آنجاست که در سیستمu200cهای دیجیتال، شما میu200cتوانید کپیu200cهای فراوانی از مجموعه وزنu200cهای یکسان، یا مدل یکسانی از دنیا داشته باشید. تمام این کپیu200cها میu200cتوانند جداگانه یاد بگیرند، اما بلافاصله دانش خودشان را به اشتراک بگذارند.» برای درک بهتر این موضوع، فرض کنید هزار نفر در اختیار دارید که هر وقت یک نفر چیزی را یاد میu200cگیرد، بقیه نفرات نیز به صورت خودکار آن مطلب را میu200cآموزند. به همین دلیل است که دانش این باتu200cهای مکالمه میu200cتواند به مراتب بیشتر از یک انسان باشد.
به گفته مت کلیفورد (Matt Clifford)، رییس هیئت مدیره «آژانس پژوهش و اختراع پیشرفته» در بریتانیا، سخنان جفری هینتون بیانگر آهنگ شتاب گرفتن قابلیتu200cهای هوش مصنوعی در عصر کنونی است. این تکنولوژی مزیتu200cهای زیادی دارد، اما دنیا به سرمایهu200cگذاری فوری و فراوان در زمینه امنیت و کنترل هوش مصنوعی نیاز مبرم دارد. ناگفته نماند، جفری هینتون تنها یکی از چندین متخصص حوزه کامپیوتر است که نسبت به سرعت توسعه هوش مصنوعی و مسیری که در پیش گرفته، ابرازی نگرانی کرده و تعداد این متخصصین روز به روز افزایش میu200cیابد.
«نیاز به عقبu200cنشینی داریم»
در ماه مارس، دهu200cها نفر از کارشناسان حوزه هوش مصنوعی – از جمله ایلان ماسک – با امضای یک نامه سرگشاده، خواستار توقف کوتاهی در توسعه تمامی موتورهای هوش مصنوعی پیشرفتهu200cتر از ChatGPT شدند تا به این وسیله، زمان کافی برای طراحی و پیادهu200cسازی اقدامات امنیتی جدی فراهم شود. از دیگر امضاکنندگان این نامه میu200cتوان به یوشوا بنجیو (Yoshua Bengio) اشاره کرد که او نیز به نوعی از پدران عرصه هوش مصنوعی به حساب میu200cآید. وی در سال 2018 به همراه جفری هینتون و یان لیu200cکان (Yann LeCun)، به خاطر کار در حوزه یادگیری عمیق، موفق به دریافت جایزه Turning Award شده بود. به عقیده یوشوا بنجیو، آنچه ما را به عقبu200cنشینی در این حوزه وامیu200cدارد، «شتابu200cگیری غیرمنتظره» در رشد سیستمu200cهای هوش مصنوعی است.
برخلاف یوشوا بنجیو، دکتر جفری هینتون بر این باور است که در کوتاهu200cمدت، فواید هوش مصنوعی بیشتر از خطرات آن خواهد بود و لذا دلیلی برای توقف توسعه این سیستمu200cها وجود ندارد. نکته دیگر آنکه با توجه به رقابت بینu200cالمللی در این حوزه، توقف توسعه عملا بسیار سخت خواهد بود. به گفته دکتر هینتون، «حتی اگر همه در ایالات متحده توسعه آن را متوقف کنند، چین تا حد زیادی جلو میu200cافتد.» هینتون یادآور شد که او در حیطه علمی دارای تخصص است نه سیاستu200cگذاری. لذا این وظیفه دولت است که زمینه توسعه هوش مصنوعی را به گونهu200cای فراهم کند که از انحراف و طغیان آن جلوگیری شود.
«رویکرد مسئولانه»
دکتر هینتون تأکید میu200cکند که به هیچ وجه قصد انتقاد از گوگل را نداشته و این کمپانی بزرگ در کارهایش بسیار مسئولانه عمل میu200cکند. وی میu200cگوید: «در حقیقت من میu200cخواهم نکات خوبی درباره گوگل بگویم. و اگر برای گوگل کار نکنم، این نکات باورپذیرتر خواهند بود.» جف دین (Jeff Dean)، از دانشمندان مطرح شاغل در گوگل، در اظهارنظری گفت: «ما به رویکرد مسئولانه خود در قبال هوش مصنوعی متعهد میu200cمانیم. ما پیوسته در حال یادگیری هستیم تا ضمن نوآوری جسورانه، [بتوانیم] خطرات نوظهور آن را درک کنیم.»
لازم به ذکر است که باتu200cهای مکالمه هوش مصنوعی تنها یک جنبه از هوش مصنوعی هستند (با وجود اینکه اکنون، جذابu200cترین جنبه به شمار میu200cروند). الگوریتمی که تعیین میu200cکند در نوبت بعدی، از چه پلتفرمی برای تماشای ویدئوی آنلاین استفاده کنید، بر مبنای هوش مصنوعی تنظیم شده است. هوش مصنوعی میu200cتواند در پروسه استخدام نیروی کار، تقاضانامهu200cهای شغلی را فیلتر کند. شرکتu200cهای بیمه با استفاده از هوش مصنوعی میu200cتوانند حق بیمه را محاسبه کنند. حتی هوش مصنوعی میu200cتواند در پزشکی، بیماری را تشخیص دهد. (هرچند که حرف آخر را هنوز پزشکان میu200cزنند)
آنچه ما در حال حاضر شاهدش هستیم، ظهور AGI (هوش مصنوعی عمومی) است. میu200cتوان AGI را آموزش داد تا از پس انجام برخی کارها (در حوزه اختیارات تعریفu200cشده) برآید. به عنوان مثال، ChatGPT میu200cتواند در پاسخ به یک سؤال، تنها به ارائه پاسخu200cهای متنی بپردازد. اما همان طور که میu200cدانید، حالتu200cهای ممکن در این پاسخu200cگوییu200cها بیu200cشمارند.
جالب است که سرعت شتابu200cگیری هوش مصنوعی حتی برای ابداعu200cکنندگان آن غافلگیرکننده بوده است. از زمانی که دکتر هینتون در سال 2012 اقدام به ساخت یک شبکه عصبی تحلیل تصویر کرد تا به امروز، هوش مصنوعی به شکل چشمگیری تکامل پیدا کرده است. حتی سوندار پیچای، مدیرعامل گوگل، نیز اخیرا اذعان کرد که نمیu200cتواند تمام کارهاییu200cکه Bard (بات هوش مصنوعی گوگل) انجام میu200cدهد را به خوبی درک کند. در حال حاضر همه ما سوار یک قطار سریعu200cالسیر هستیم و نگرانیم که روزی فرا برسد که این قطار شروع به ساخت خط آهن برای خودش بکند.
منبع: http://www.مایفون مگ/news/view-4864-an-ai-pioneer-announced-his-resignation-to-speak-out-about-the-dangers-of-the-technology.aspx
