آیا هوش مصنوعی برای جنگ با انسان‌ها آماده می‌شود؟!

بسیاری از کارشناسانی که در حوزه‌ ایمنی هوش مصنوعی فعالیت می‌کنند ابراز نگرانی کرده‌اند که در آینده سیستم‌های هوش مصنوعی ممکن است وارد یک جنگ استراتژیک با نوع بشر شوند. 

🔹قدرت جمعی آن‌ها ممکن است هم‌تراز باقدرت بشر یا حتی بیشتر از آن شود. در این چشم‌انداز آینده، هوش مصنوعی با انسان وارد جدال خواهد شد. 

🔹واقعیت امر این است که کشمکش خشونت‌آمیز بین انسان و ماشین‌های برخوردار از هوش عمومی پیشرفته نه‌فقط محتمل نیست بلکه به‌گونه‌ای رخ خواهد داد که در مقایسه با تمامی نبردهای انسان‌ها با یکدیگر که در گذشته اتفاق افتادند غیرقابل باور است و شباهتی به آن‌هانخواهد داشت.

🔹این نگرانی از بابت مدل‌های زبانی بزرگ (LLMs)دنیای امروز نیست بلکه به خاطر «هوش جامع پیشرفته» (AGI)است که عوامل فرضی برنامه‌ریزی‌کننده در بلندمدت هستند که می‌توانند در دامنه‌ وسیعی از سیستم‌های اقتصادی جامعه جایگزین نیروی کار انسانی شوند. این عوامل می‌توانند خودشان به تنهایی سیستم طراحی کنند، از منابع متنوعی با بازده بالا استفاده کنند و برای اهداف پیچیده برنامه‌ریزی کنند.