دانشمندان در چین در حال بررسی این موضوع هستند که برای توسعه «آخرین هوش مصنوعی ساخته شده توسط انسان‌ها» چه چیزی لازم است؛ یک سیستم هوش مصنوعی (AI) قدرتمند و خود-بهبودی که قادر به ایجاد جانشینان خود باشد.
به گزارش اطلاعات آنلاین به نقل از Live Science، محققان در یک مطالعه جدید بررسی می‌کنند که چگونه رویکردهای خود-بهبودی بازگشتی (RSI) می‌تواند به مقابله با افزایش هزینه‌های مالی و محاسباتی توسعه مدل‌های هوش مصنوعی پیشرفته‌تر کمک کند.
RSI به این ایده اشاره دارد که مدل‌های هوش مصنوعی آینده می‌توانند آموزش و توسعه خود را هدایت کنند و از آنچه از هر دور بهبود می‌آموزند برای هدایت دورهای بعدی توسعه استفاده کنند.
این حلقه بازخورد بازگشتی در نهایت می‌تواند سیستم‌های هوش مصنوعی را قادر سازد تا نسل‌های جدیدتر و قدرتمندتری از مدل‌ها را با حداقل ورودی انسان توسعه دهند.
این مطالعه هنوز مورد بررسی دقیق قرار نگرفته است و فقط چارچوبی را برای طبقه‌بندی سیستم‌های هوش مصنوعی بر اساس قابلیت‌های خود-بهبودی آنها، از سطح ۱ (پایین‌ترین) تا سطح ۵ (بالاترین) پیشنهاد می‌دهد.
در سطوح پایین‌تر، توسعه عمدتاً تحت هدایت انسان باقی می‌ماند. با پیشرفت سیستم‌های هوش مصنوعی در مقیاس بالاتر، آنها به طور فزاینده‌ای قادر به شناسایی نقاط ضعف خود و تصمیم‌گیری در مورد چگونگی رفع آنها می‌شوند و در نهایت توانایی ایجاد "فرا-بهبودهای" خود را به دست می‌آورند؛ بهبود نحوه بهبود خود.
آیا خود-بهبود هوش مصنوعی مزخرف است؟
اینکه آیا هوش مصنوعی می‌تواند به این سطح از خود-بهبودی پایدار دست یابد، همچنان یک سوال بی‌پاسخ است. با این حال، آزمایش‌های قبلی اشکال محدودتری از RSI را نشان داده‌اند.
در یک مطالعه در اوایل امسال، یک سیستم هوش مصنوعی به نام A-Evolve-Training وظیفه داشت عملکرد یک مدل زبان بزرگ (LLM) با ۳۰ میلیارد پارامتر را بهبود بخشد.
طی چهار دور،A-Evolve-Training با آزمایش تکنیک‌های مختلف آموزش و استفاده از نتایج برای تغییر نحوه رویکرد آن به آزمایش‌های بعدی، عملکرد معیار LLM را به طور متوسط بهبود بخشید.
«پیتر بنتلی»، استاد زیست‌شناسی دیجیتال در دانشگاه کالج لندن، این سوال را مطرح کرد که آیا چنین آزمایش‌هایی مسیر معتبری برای RSI ارائه می‌دهند یا خیر.
بنتلی گفت: «این ایده که نوعی هوش مصنوعی به طور جادویی شروع به تولید هوش مصنوعی‌های بهتر و بهتر می‌کند، بی‌معنی است.»
بنتلی خاطرنشان کرد که سیستم‌های کامپیوتری خود-بهبودگر دهه‌هاست که وجود دارند. به عنوان مثال، محاسبات تکاملی و یادگیری تقویتی، هر دو مبتنی بر اصل سیستم‌ها هستند که عملکرد خود را در طول زمان در پاسخ به بازخورد اصلاح می‌کنند.
او گفت چالش بسیار بزرگتر، توسعه سیستم‌های هوش مصنوعی است که قادر به انجام خودکار تحقیقات مورد نیاز برای ایجاد جانشینان قدرتمندتر باشند و البته غلبه بر وابستگی آنها به تخصص انسانی و زیرساخت‌های محاسباتی فیزیکی.
بنتلی افزود: "شما نمی‌توانید به صورت بازگشتی خود را بهبود بخشید، مگر اینکه بتوانید آموزش خود را نیز بهبود بخشید، سخت‌افزار خود را ارتقا دهید و آن را به طور کامل در محیط‌های دنیای واقعی آزمایش کنید."
چالش RSI واقعی
نویسندگان این مطالعه برخی از این چالش‌ها را تصدیق کردند. توسعه سیستم‌های دارای قابلیت RSI می‌تواند نیاز به سرمایه‌گذاری‌های عظیم در قدرت محاسباتی و همچنین نظارت انسانی برای اطمینان از بهبودهای متوالی و ارائه دستاوردهای معنادار داشته باشد. نویسندگان خاطرنشان کردند که اگر منابع مورد نیاز برای توسعه و آزمایش مدل‌های هوش مصنوعی بعدی از هرگونه مزایایی که ارائه می‌دهند، بیشتر باشد، همه اینها عملاً زائد می‌شوند.
دانشمندان همچنین به روشی قابل اعتماد برای تعیین اینکه آیا یک سیستم هوش مصنوعی واقعاً در طول تکرارها توانمندتر می‌شود یا خیر، نیاز دارند نه اینکه از نقاط ضعف در آزمایش‌های مورد استفاده برای اندازه‌گیری قابلیت‌های آن سوءاستفاده کنند. این یک مشکل شناخته شده در توسعه هوش مصنوعی است که در آن مدل‌ها می‌توانند با سوءاستفاده از روش‌های آزمایش یا نتایج گزینشی، به نمرات معیار بالاتری دست یابند.
«کایلا بلومکویست»، محقق هوش مصنوعی در دانشگاه آکسفورد و از بنیانگذاران آزمایشگاه سیاست چین آکسفورد، گفت که اگرچه این مقاله یک نقشه راه عملی برای RSI ارائه نمی‌دهد، اما می‌تواند به توسعه‌دهندگان و سیاست‌گذاران کمک کند تا چالش‌های فنی و خطرات ایمنی مرتبط با سیستم‌های هوش مصنوعی که به طور فزاینده‌ای مستقل می‌شوند را درک کنند.
او همچنین این سوال را مطرح کرد که آیا هرگز نقطه مشخصی وجود خواهد داشت که در آن هوش مصنوعی کاملاً از توسعه انسانی مستقل شود. بلومکویست افزود: "این مقاله به جای یک لحظه، واگذاری تدریجی مسئولیت را توصیف می‌کند، بنابراین ممکن است هرگز یک آخرین مدل آشکار ساخته شده توسط انسان‌ها وجود نداشته باشد."
