چگونه صحبت درباره «آخرالزمان هوش مصنوعی» به قدرتمندتر شدن غول‌های فناوری منجر می‌شود، نه ایمن‌تر شدن آن‌ها

چگونه صحبت درباره «آخرالزمان هوش مصنوعی» به قدرتمندتر شدن غول‌های فناوری منجر می‌شود، نه ایمن‌تر شدن آن‌ها

سناریوهای آخرالزمانی درباره هوش مصنوعی که زمانی دیدگاه‌هایی حاشیه‌ای محسوب می‌شدند، حالا به جریان اصلی بحث‌های فناوری راه پیدا کرده‌اند. چندین پژوهشگر از شرکت‌هایی مانند Anthropic و Google در فاصله کوتاهی از یکدیگر استعفا داده‌اند و درباره افزایش خطرات ناشی از توسعه سریع مدل‌های پیشرفته هوش مصنوعی هشدار داده‌اند.

بیلال چغتای، پژوهشگر Google DeepMind، جدیدترین فردی بود که روز دوشنبه استعفا کرد و هشدار داد که «هوش مصنوعی این ظرفیت را دارد که همه ما را بکشد.»

پیش از او، جیکوب کاکسون، پژوهشگر Anthropic، از این شرکت جدا شد. پس از آن نیز سم آلتمن، مدیرعامل OpenAI، درباره مسائل مربوط به ایمنی هوش مصنوعی اظهارنظر کرد.

داریو آمودی، مدیرعامل Anthropic، نیز در مقاله‌ای مفصل با عنوان We Must Pace the Frontier از شرکت‌های فناوری خواست سرعت توسعه هوش مصنوعی را کاهش دهند. او هشدار داد که در صورت نبود محدودیت‌های مشخص، عوامل خودمختار هوش مصنوعی ممکن است در مدت کمتر از یک سال بخش بزرگی از اینترنت را تحت کنترل خود بگیرند.

در مقابل، مدیران شرکت‌هایی مانند Meta و Nvidia با درخواست برای توقف یا کاهش سرعت توسعه در سطح صنعت مخالفت کرده‌اند و معتقدند نیروهای بازار و مسئولیت‌های قانونی می‌توانند تا حدی مانع توسعه بی‌ضابطه شوند.

بحث درباره خطرات فاجعه‌بار هوش مصنوعی اکنون به موضوعی گسترده‌تر درباره قانون‌گذاری، رقابت فناوری و قدرت شرکت‌های بزرگ فناوری تبدیل شده است.

منتقدان می‌گویند تمرکز بیش از حد بر سناریوهایی مانند نابودی انسان توسط یک هوش مصنوعی فوق‌العاده قدرتمند، ممکن است توجه را از خطرات ملموس‌تر فعلی منحرف کند؛ خطراتی مانند مصرف انرژی و منابع مراکز داده، تأثیرات زیست‌محیطی و استفاده نظامی از سیستم‌های خودکار هوش مصنوعی.

گلوگاه AGI

یکی از سناریوهایی که در بحث‌های ایمنی هوش مصنوعی مطرح می‌شود، خودبهبودی بازگشتی (Recursive Self-Improvement) است. در این سناریوی فرضی، یک هوش مصنوعی عمومی یا AGI می‌تواند کد و قابلیت‌های خودش را به‌صورت مداوم بهینه کند و وارد چرخه‌ای از پیشرفت سریع شود.

با این حال، هنوز درباره اینکه مدل‌های زبانی بزرگ چه زمانی یا حتی آیا اصلاً به ابرهوش خواهند رسید، اجماع گسترده‌ای وجود ندارد. برخی پژوهشگران نیز پیش‌بینی‌های مربوط به چنین آینده‌ای را بیش از حد اغراق‌آمیز می‌دانند.

مطالعات اخیر نشان داده‌اند که عوامل هوش مصنوعی می‌توانند وظایف مشخصی مانند اجرای کد را انجام دهند، اما همچنان در زمینه استدلال و قضاوت موردنیاز برای دستیابی به پیشرفت‌های کاملاً باز و تجربی با محدودیت‌هایی مواجه هستند.

سایاش کاپور و آرویند نارایانان نیز در مقاله‌ای درباره امنیت هوش مصنوعی، برخی رخدادهای موسوم به «هوش مصنوعی سرکش» را بررسی کرده‌اند. از دید برخی متخصصان امنیت سایبری، چنین اتفاقاتی بیشتر نتیجه نبود اقدامات امنیتی پایه توسط شرکت‌ها هستند تا نشانه‌ای از رسیدن هوش مصنوعی به مرحله‌ای کاملاً جدید از توانایی‌های سایبری.

خطر فوری‌تر: واگذاری قدرت

به گفته ویشال میسرا، معاون دانشکده مهندسی کلمبیا در حوزه رایانش و هوش مصنوعی، خطر فوری‌تر می‌تواند یک چرخه بازخورد نهادی باشد؛ یعنی مدل‌های هوش مصنوعی به‌تدریج قدرت بیشتری برای تصمیم‌گیری در دنیای واقعی پیدا کنند، انسان‌ها بیش از پیش به آن‌ها وابسته شوند و در نتیجه اختیار بیشتری به این سیستم‌ها واگذار شود.

بنابراین مسئله فقط این نیست که یک مدل بسیار هوشمند در آزمایشگاه از کنترل خارج شود؛ بلکه نحوه استفاده جامعه از این مدل‌ها و میزان قدرتی که به آن‌ها واگذار می‌شود نیز اهمیت دارد.

رقابت جهانی در حوزه هوش مصنوعی

یکی دیگر از محورهای مهم این بحث، رقابت فناوری میان کشورهاست. طرفداران توسعه سریع هوش مصنوعی استدلال می‌کنند که عقب ماندن در این حوزه می‌تواند پیامدهای اقتصادی، نظامی و امنیتی داشته باشد.

قرار دادن هوش مصنوعی در چارچوب امنیت ملی می‌تواند احساس فوریت بیشتری ایجاد کند و در بحث‌های مربوط به قانون‌گذاری نیز نقش داشته باشد.

این نوع ادبیات شباهت‌هایی با فضای جنگ سرد دارد؛ دوره‌ای که پیشرفت‌های فناوری هر یک از دو بلوک به‌عنوان تهدیدی مستقیم برای طرف مقابل تلقی می‌شد. امروزه نیز برخی بحث‌ها درباره هوش مصنوعی با چنین نگاه رقابتی مطرح می‌شوند.

خطر قانون‌گذاری به نفع بازیگران بزرگ

برخی مدیران شرکت‌های هوش مصنوعی می‌گویند قوانین و استانداردهای جدید برای افزایش ایمنی ضروری هستند. در مقابل، منتقدان معتقدند مقررات پیچیده ممکن است ناخواسته به نفع شرکت‌های بزرگ تمام شوند.

برای مثال، الزام شرکت‌ها به انجام ممیزی‌های تخصصی توسط طرف‌های ثالث می‌تواند هزینه‌های مالی، حقوقی و عملیاتی بالایی ایجاد کند. شرکت‌های بزرگ فناوری توانایی بیشتری برای پرداخت چنین هزینه‌هایی دارند، در حالی که استارتاپ‌ها، پژوهشگران دانشگاهی و توسعه‌دهندگان متن‌باز ممکن است با موانع بیشتری روبه‌رو شوند.

موضوع دیگری که مطرح شده، خودتنظیمی صنعت است؛ یعنی شرکت‌های هوش مصنوعی خودشان در تعیین استانداردها و قوانین فنی نقش اصلی داشته باشند.

منتقدانی مانند امیلی بندر معتقدند تمرکز بیش از حد روی سناریوهای فرضی و آینده‌نگرانه ممکن است قانون‌گذاران را از اجرای قوانین موجود در زمینه‌هایی مانند حریم خصوصی، حقوق مدنی و محیط زیست دور کند.

پول بیشتر، قدرت بیشتر

هشدار درباره احتمال نابودی بشریت توسط هوش مصنوعی لزوماً به معنای یک کمپین تبلیغاتی عمدی نیست، اما می‌تواند پیامد دیگری داشته باشد: هوش مصنوعی را به فناوری‌ای فوق‌العاده قدرتمند و حیاتی تبدیل می‌کند.

در نتیجه، آزمایشگاه‌های بزرگ هوش مصنوعی دیگر صرفاً شرکت‌هایی نیستند که نرم‌افزار می‌فروشند؛ آن‌ها به بازیگرانی تبدیل می‌شوند که دولت‌ها و سیاست‌گذاران ممکن است برای تعیین نحوه تنظیم این فناوری به آن‌ها مراجعه کنند.

از سوی دیگر، توسعه مدل‌های پیشرفته هوش مصنوعی هزینه بسیار زیادی دارد. شرکت‌های فناوری صدها میلیارد دلار روی مراکز داده، تراشه‌ها و زیرساخت‌های انرژی سرمایه‌گذاری می‌کنند، در حالی که درآمد مستقیم حاصل از این سرمایه‌گذاری‌ها در بسیاری از موارد هنوز با هزینه‌ها فاصله دارد.

برخی شرکت‌ها نیز خدمات هوش مصنوعی را با قیمت‌هایی پایین‌تر از هزینه واقعی ارائه کرده‌اند و این فاصله با سرمایه‌گذاری شرکت‌های خطرپذیر جبران شده است. با افزایش استفاده سازمان‌ها از هوش مصنوعی، هزینه پردازش نیز می‌تواند به میزان قابل‌توجهی افزایش پیدا کند.

در کنار این مسئله، دسترسی به حجم عظیم داده‌های باکیفیت تولیدشده توسط انسان برای آموزش مدل‌های جدید نیز به یک چالش تبدیل شده است. مدل‌های پیشرفته همچنان در برخی وظایف استدلالی محدودیت دارند و صنعت با پرسش‌هایی درباره میزان واقعی بازده اقتصادی این فناوری‌ها روبه‌روست.

در چنین شرایطی، شرکت‌های بزرگ هوش مصنوعی باید برای سرمایه‌گذاران توضیح دهند که سرمایه‌گذاری‌های عظیم فعلی چگونه می‌تواند به ارزش اقتصادی بلندمدت تبدیل شود.

در نتیجه، بحث درباره آینده هوش مصنوعی فقط به این پرسش محدود نیست که «آیا هوش مصنوعی می‌تواند برای انسان خطرناک باشد؟»؛ بلکه پرسش‌های دیگری نیز مطرح هستند: چه کسی این فناوری را کنترل می‌کند، چه مقدار قدرت به آن داده می‌شود، چه قوانینی بر آن اعمال خواهد شد و آیا ساختارهای نظارتی می‌توانند هم‌زمان با سرعت توسعه فناوری پیش بروند؟