OpenAI meluncurkan model tercanggihnya hingga saat ini pada awal September. GPT 6 Astra, yang oleh banyak orang dianggap sebagai ancaman keamanan siber utama. Ia tidak hanya dapat menembus perlindungan, tetapi juga menyembunyikan proses berpikirnya. Model yang sangat mirip bernama Fable 5 diluncurkan beberapa bulan lalu oleh Anthropic, yang kemudian segera ditarik kembali. Namun, jelas bagi semua orang bahwa model AI bukan lagi sekadar model biasa. chatBot untuk mendiskusikan masalah atau kesehatan Anda. Ini dengan cepat berubah menjadi sesuatu yang mungkin akan segera kehilangan kendali kita.
Meskipun ini tentang Keamanan AI Dan risiko-risikonya terhadap umat manusia banyak dibahas, kubu pendukungnya berusaha menakut-nakuti semua pikiran yang menakutkan. Semuanya konon terkendali dengan sempurna dan meskipun model-model saat ini sangat ampuh, mereka tetap hanya dapat bekerja dalam batasan-batasan yang ada – dan oleh karena itu tidak ada ancaman mereka mengambil alih umat manusia. Seorang mantan karyawan OpenAI dan Antropik, peneliti Jacob CoxonNamun kini ia telah menerbitkan peringatan penting yang bahkan mulai ditanggapi oleh Kongres AS.
Anda mungkin tertarik
Coxon pada jaringan X Ia memposting pengumuman bahwa setelah 3 tahun bekerja intensif untuk OpenAI dan Anthropic, ia mengundurkan diri. Ini bukan berita yang menarik, karena kebanyakan orang sama sekali tidak mengenal Coxon. Tetapi bagian kedua dari postingannya sangat penting. Di dalamnya, ia menuduh kedua perusahaan tersebut... "Tak satu pun dari perusahaan-perusahaan ini bertindak secara bertanggung jawab. Mereka bergegas menuju peningkatan kecerdasan buatan super dan mempertaruhkan hidup kita."
Galeri foto
Perlombaan menuju AGI (Kecerdasan Buatan Umum)
Tuduhan yang dilayangkan kepada OpenAI dan Anthropic bukanlah rahasia. Kedua perusahaan tersebut tidak merahasiakan fakta bahwa impian mereka adalah untuk mengembangkan AGIyaitu, kecerdasan buatan umum yang mampu memahami, belajar, dan secara mandiri menyelesaikan berbagai masalah. Ini bukanlah agen AI yang saat ini ditawarkan dalam bentuk percikan Google, misalnya. AGI jauh lebih canggih dan kita tidak tahu seberapa jauh kemampuannya. Dan apakah ia bisa segera menjadi Skynet.
Pemikiran Coxon, yang kemudian ia publikasikan di bawah postingan aslinya, sangat menarik dan membuat Anda berpikir tentang perkembangan AI yang pesat saat ini. Namun, ini bukanlah bukti yang luar biasa. Menurut saya, postingannya harus ditanggapi dengan tenang, karena selain sebagai peringatan nyata, itu mungkin juga merupakan keluhan seorang karyawan yang tidak puas yang, karena alasan yang tidak diketahui, berakhir di dua perusahaan terpenting di dunia. Dan tidak ada yang tahu apa yang ada di balik kepergiannya dan untuk alasan apa Anthropic dan OpenAI gosip.
Masuk ke pasar saham lebih awal
Namun, mantan rekannya, seorang karyawan Anthropic, juga sebagian setuju dengannya. Evan HubingerDia mengatakan hal berikut kepada Politico: "Kami sungguh percaya bahwa AI dapat membunuh semua manusia. Saya pribadi memperkirakan probabilitasnya lebih dari sepuluh persen dalam dekade berikutnya." Bahkan seorang senator AS pun setuju. Bernie SandersNamun, tidak ada bukti bahwa risiko seperti itu akan terjadi. Untungnya, untuk saat ini, ini hanya peringatan bagi para skeptis.
Saya mengundurkan diri dari Anthropic hari ini. Saya menghabiskan tiga tahun terakhir melakukan penelitian pra-pelatihan di OpenAI dan Anthropic. Kedua perusahaan tersebut tidak bertindak secara bertanggung jawab. Mereka berlomba-lomba menuju superintelijen yang terus meningkatkan diri dan mempertaruhkan hidup kita. Lebih banyak pemikiran di bawah ini.
— Jacob Coxon (@hilbertspaess) 9 September, 2026
Baik OpenAI maupun Anthropic dengan tegas menolak asumsi-asumsi ini dan mengklaim bahwa pengembangan tersebut sepenuhnya aman. Bahkan, saya rasa mereka tidak mampu mengklaim hal lain, karena mereka mempertaruhkan banyak uang. OpenAI mengajukan permohonan pada bulan Juni. 2026 permintaan untuk memasuki pasar saham (IPO) dan Anthropic berada dalam posisi yang sama. Jadi, investor masa depan perlu diyakinkan.
Namun secara pribadi saya memiliki sedikit ketidakpercayaan terhadap perkembangan AI dan mengamati dari kejauhan bagaimana semuanya berubah begitu cepat. Agen AI tidak menarik minat saya dan ChatGPT ani Gemini Saya jelas tidak berbicara dengan mereka seperti teman dan tidak membagikan informasi pribadi saya kepada mereka. Seperti Coxon, saya khawatir bahwa masa depan AI mungkin lebih suram daripada yang coba disampaikan oleh para pengembangnya kepada kita.
