بستن آگهی

OpenAI در اوایل سپتامبر از پیشرفته‌ترین مدل خود تاکنون رونمایی کرد. GPT 6 Astra که بسیاری آن را یک تهدید بزرگ امنیت سایبری می‌دانند. این بازی نه تنها می‌تواند از سدهای حفاظتی عبور کند، بلکه می‌تواند فرآیندهای فکری خود را نیز پنهان کند. مدل بسیار مشابهی به نام Fable 5 چند ماه پیش توسط Anthropic عرضه شد که خیلی زود آن را کنار گذاشت. با این حال، برای همه روشن است که مدل‌های هوش مصنوعی دیگر فقط مدل‌های معمولی نیستند. chatربات‌هایی برای صحبت در مورد مشکلات یا سلامتی‌تان. این به سرعت در حال تبدیل شدن به چیزی است که ممکن است به زودی کنترل آن را از دست بدهیم.

اگرچه در مورد امنیت هوش مصنوعی و خطرات آن برای بشریت به طور گسترده مورد بحث قرار گرفته است، اردوگاه حامیان آن در تلاش است تا همه افکار ترسناک را از خود دور کند. ظاهراً همه چیز کاملاً تحت کنترل است و در حالی که مدل‌های فعلی فوق‌العاده قدرتمند هستند، اما هنوز هم فقط می‌توانند در تنظیمات خود کار کنند - و بنابراین هیچ تهدیدی برای تصرف بشریت توسط آنها وجود ندارد. یک کارمند سابق OpenAI و آنتروپیک، محقق جیکوب کاکسون، اما اکنون او هشدار قابل توجهی منتشر کرده است که حتی کنگره آمریکا نیز شروع به رسیدگی به آن کرده است.

کاکسون آن شبکه ایکس پستی منتشر کرد و اعلام کرد که پس از ۳ سال کار فشرده برای OpenAI و Anthropic، از این سمت کناره‌گیری می‌کند. که خبر خیلی جالبی نیست، به هر حال، اکثر مردم اصلاً Coxon را نمی‌شناسند. اما بخش دوم پست او بسیار مهم است. در آن، او هر دو شرکت را متهم می‌کند که «هیچ‌کدام از این شرکت‌ها مسئولانه عمل نمی‌کنند. آن‌ها مستقیماً به سمت هوش مصنوعی خود-بهبوددهنده هجوم می‌آورند و با زندگی ما قمار می‌کنند.»

رقابت برای AGI

آنچه OpenAI و Anthropic به آن متهم شده‌اند، بر کسی پوشیده نیست. هیچ‌کدام از این شرکت‌ها این واقعیت را پنهان نمی‌کنند که رویایشان توسعه‌ی... AGIیعنی هوش مصنوعی عمومی که قادر به درک، یادگیری و حل مستقل مسائل مختلف است. این عامل‌های هوش مصنوعی فعلی که به شکل ... ارائه می‌شوند، نیستند. جرقه برای مثال، گوگل. هوش مصنوعی عمومی (AGI) بسیار پیشرفته‌تر است و هیچ‌کدام از ما نمی‌دانیم که تا چه حد می‌تواند پیش برود. و اینکه آیا می‌تواند به زودی به اسکای‌نت تبدیل شود یا خیر.

افکار کاکسون، که او بعداً در زیر پست اصلی خود منتشر کرد، بسیار جذاب هستند و شما را به فکر کردن در مورد توسعه سریع فعلی هوش مصنوعی وامی‌دارند. با این حال، این شواهد پیشگامانه‌ای نیست. به نظر من، پست او را باید با خونسردی پذیرفت، زیرا علاوه بر یک هشدار واقعی، ممکن است فریاد یک کارمند ناراضی باشد که به دلایل نامعلومی در دو تا از مهمترین شرکت‌های جهان مشغول به کار شده است. و هیچ کس نمی‌داند چه چیزی پشت خروج او بوده و به چه دلایلی آنتروپیک و OpenAI تهمت ها

ورود زودهنگام به بازار بورس

با این حال، همکار سابق او، یکی از کارمندان شرکت آنتروپیک، نیز تا حدودی با او موافق است. ایوان هابینگراو در مصاحبه با پولیتیکو گفت: «ما واقعاً معتقدیم که هوش مصنوعی می‌تواند همه انسان‌ها را بکشد. من شخصاً احتمال این اتفاق را در دهه آینده بیش از ده درصد تخمین می‌زنم.» و حتی یک سناتور آمریکایی هم با این موضوع موافق است. برنی ساندرزبا این حال، هیچ مدرکی مبنی بر وقوع چنین خطری وجود ندارد. خوشبختانه، در حال حاضر، این فقط یک هشدار برای افراد بدبین است.

هم OpenAI و هم Anthropic این فرضیات را قویاً رد می‌کنند و ادعا می‌کنند که این توسعه کاملاً ایمن است. در واقع، فکر نمی‌کنم آنها بتوانند ادعای دیگری داشته باشند، زیرا پول زیادی در گرو آن است. OpenAI در ماه ژوئن درخواست خود را ثبت کرد. 2026 درخواست برای ورود به بازار سهام (عرضه اولیه سهام) و شرکت آنتروپیک در همین وضعیت هستند. بنابراین سرمایه‌گذاران آینده باید اطمینان خاطر داشته باشند.

اما من شخصاً به پیشرفت‌های هوش مصنوعی بی‌اعتماد هستم و از دور تماشا می‌کنم که چگونه همه چیز به سرعت تغییر می‌کند. عوامل هوش مصنوعی مرا سرد و بی‌تفاوت رها می‌کنند. ChatGPT آنی Gemini من قطعاً مثل یک دوست با آنها صحبت نمی‌کنم و اطلاعات شخصی‌ام را با آنها به اشتراک نمی‌گذارم. من هم مثل کاکسون می‌ترسم که آینده هوش مصنوعی تاریک‌تر از آن چیزی باشد که توسعه‌دهندگانش سعی دارند به ما بگویند.

پرخواننده ترین های امروز

.