OpenAI به سمت ابرهوش مصنوعی حرکت می‌کند
OpenAI به سمت توسعه ابرهوش مصنوعی حرکت می‌کند. سام آلتمن از اهداف شرکت خبر داد، اما نگرانی‌ها درباره ایمنی و انحلال تیم‌های ایمنی افزایش یافته است.
سام آلتمن، مدیرعامل OpenAI، اعلام کرده است که این شرکت تمرکز خود را به سمت توسعه «ابرهوش مصنوعی» معطوف کرده است، گامی فراتر از کارهای فعلی آن در زمینه هوش عمومی مصنوعی (AGI). آلتمن در پستی در وبلاگ شخصی خود اظهار داشت که OpenAI دانش و توانایی لازم برای ساخت AGI را دارد.
او تاکید کرد که هدف نهایی شرکت، ایجاد ابزارهای ابرهوش‌مند است که می‌توانند انقلابی در کشف علمی، نوآوری و رفاه جهانی ایجاد کنند. آلتمن پیش‌بینی کرده است که ابرهوش مصنوعی ممکن است تنها “چند هزار روز” دیگر فاصله داشته باشد و رسیدن به آن را “شدیدتر از آنچه مردم فکر می‌کنند” توصیف کرده است.
تعریف AGI و چالش‌های پیش‌رو
مفهوم AGI تا حدی مبهم است، اما OpenAI آن را به عنوان “سیستم‌های بسیار خودمختاری که در بیشتر کارهای با ارزش اقتصادی از انسان پیشی می‌گیرند” تعریف کرده است. OpenAI و همکار نزدیک آن، مایکروسافت، یک معیار مالی برای AGI تعیین کرده‌اند: سیستم‌های هوش مصنوعی که قادر به تولید حداقل 100 میلیارد دلار سود هستند.
بر اساس توافق بین این دو شرکت، مایکروسافت پس از رسیدن به این نقطه عطف، دسترسی به فناوری OpenAI را از دست خواهد داد. آلتمن همچنین پیش‌بینی کرد که عامل‌های هوش مصنوعی (سیستم‌های خودمختاری که قادر به انجام وظایف خاص هستند) می‌توانند به نوعی “به نیروی کار بپیوندند” و “تولید شرکت‌ها را به طور ملموسی تغییر دهند.”
محدودیت‌های فعلی و چشم‌انداز آینده
آلتمن به محدودیت‌های فعلی فناوری هوش مصنوعی، از جمله خطاهای آشکار و هزینه‌های بالا، اشاره کرد و اظهار داشت که این چالش‌ها به سرعت قابل حل هستند. او ابراز اطمینان کرد که چشم‌انداز شرکت در سال‌های آینده برای همه آشکار خواهد شد و تاکید کرد که نیاز به اقدام با دقت بالا، در حالی که مزایای گسترده و توانمندسازی را به حداکثر می‌رساند، بسیار مهم است.
او افزود: «با توجه به امکان‌های کار ما، OpenAI نمی‌تواند یک شرکت عادی باشد. چقدر خوش‌شانس و متواضع هستیم که بتوانیم در این کار نقش داشته باشیم.»
نگرانی‌های ایمنی و انحلال تیم‌های ایمنی
با تغییر تمرکز OpenAI به سمت ابرهوش مصنوعی، نگرانی‌ها درباره ایمنی و ملاحظات اخلاقی به طور جدی مطرح شده‌اند. این شرکت پیش‌تر به چالش‌های انتقال به دنیایی با ابرهوش مصنوعی اشاره کرده و آن را «دور از دسترس» توصیف کرده است.
در پستی در ژوئیه 2023، OpenAI اعتراف کرد که «هیچ راه‌حلی برای هدایت یا کنترل یک هوش مصنوعی بالقوه ابرهوش‌مند و جلوگیری از سرکشی آن نداریم.» علیرغم این هشدارها، OpenAI تیم‌های متمرکز بر ایمنی هوش مصنوعی، از جمله تیم‌های کار بر روی ایمنی سیستم‌های ابرهوش‌مند، را منحل کرده است.
چندین محقق برجسته در زمینه ایمنی نیز این شرکت را ترک کرده‌اند و اهداف تجاری فزاینده OpenAI را دلیل اصلی ترک خود عنوان کرده‌اند.
ساختار جدید و انتقادات
این شرکت در حال حاضر در حال بازسازی ساختار شرکتی خود است تا برای سرمایه‌گذاران خارجی جذاب‌تر شود. هنگامی که از آلتمن درباره منتقدانی که معتقدند OpenAI به اندازه کافی بر ایمنی تمرکز ندارد، سؤال شد، او به سابقه شرکت اشاره کرد.
با این حال، حرکت به سمت ابرهوش مصنوعی سؤالات مهمی را درباره چگونگی تعادل بین نوآوری و نیاز به اقدامات ایمنی قوی مطرح می‌کند. با ادامه تلاش‌های OpenAI برای گسترش مرزهای توانایی‌های هوش مصنوعی، جهان به دقت نظاره‌گر خواهد بود که این شرکت چگونه با چالش‌ها و مسئولیت‌های ایجاد سیستم‌های ابرهوش‌مند روبرو می‌شود.
منبع: تجارت نیوز