Meta mula menangani salah satu cabaran terbesar dalam kecerdasan buatan generatif hari ini – bagaimana untuk membezakan apa yang dibuat oleh manusia dan apa yang dibuat oleh mesin. Syarikat itu telah memperkenalkan alat web baharu yang boleh mengesan imej yang dihasilkan atau disunting oleh model AI terkininya. Ciri ini bertujuan untuk membantu pengguna mengenal pasti asal usul kandungan digital dengan lebih baik, tetapi setakat ini ia hanya berfungsi pada tahap yang terhad.
Alat pengesanan baharu daripada Meta berfungsi dengan teknologi yang dipanggil Meterai KandunganIa merupakan tandatangan digital halimunan yang dimasukkan ke dalam imej AI dicipta menggunakan model Imej MuseMenurut syarikat itu, ia sepatutnya kekal utuh walaupun selepas suntingan biasa seperti memangkas, mengubah saiz, memampatkan atau mencipta screenshotu.
Anda mungkin berminat
Tandatangan halimunan mendedahkan kandungan AI
Tidak seperti beberapa penyelesaian lama meta tidak menggunakan tanda yang boleh dilihat secara langsung dalam imej. Pengguna tidak akan melihat sebarang logo atau amaran di sudut foto. Maklumat tentang asal usul fail kekal tersembunyi dan hanya boleh disahkan menggunakan alat khas.
Pendekatan ini menjadi semakin penting. Dengan peningkatan kualiti penjana imej, semakin sukar untuk membezakan foto yang realistik daripada kandungan yang dicipta secara buatan. Tag digital bertujuan untuk membantu bukan sahaja pengguna biasa, tetapi juga platform, media atau penyelidik yang perlu bekerja dengan maklumat yang disahkan.
Berfungsi dengan baik, tetapi dengan batasan
Ujian awal menunjukkan bahawa alat itu sememangnya boleh menemui imej yang dihasilkan dengan Meta AI, walaupun dalam kes versi yang diubah suai atau screenshotWalau bagaimanapun, pengesanan bukanlah penyelesaian universal untuk semua imej yang dihasilkan kecerdasan buatan.
Pada masa ini hanya berfungsi untuk kandungan yang dicipta atau diedit oleh model Imej MuseIa tidak dapat mengecam generasi lama alatan AI Meta. Ia juga belum dapat mengendalikan imej yang dihasilkan oleh sistem lain, contohnya menggunakan teknologi berasaskan piawaian. SynthID nebo C2PA Bukti Kelayakan Kandungan.
Meta merancang untuk mengembangkan teknologi tersebut kepada video juga. Syarikat itu juga sedang menyediakan Model Video Muse, yang sepatutnya membawa penjanaan imej bergerak. Video akan menjadi salah satu cabaran terbesar pada tahun-tahun akan datang, kerana klip AI yang realistik ia boleh menjadi jauh lebih sukar untuk disahkan berbanding imej statik.
Fotogalerie
Keperluan untuk pelabelan kandungan AI
Ciri baharu ini hadir ketika syarikat teknologi besar menghadapi tekanan yang semakin meningkat untuk ketelusan sekitar AI generatif. Pengguna sering tidak tahu sama ada mereka melihat foto sebenar atau hasil penjana, yang boleh merumitkan penyebaran maklumat salah dan bahan yang dimanipulasi.
Meta telah menghadapi kritikan pada masa lalu kerana pelabelan kandungan yang dihasilkan AI yang tidak konsisten pada perkhidmatannya, jadi sistem Segel Kandungan yang baharu merupakan langkah ke arah akauntabiliti yang lebih besar, walaupun ia hanya menangani sebahagian daripada masalah tersebut.
Had mungkin menghalang penggunaan praktikal
Satu batasan yang mengejutkan ialah alat pengesanan ditetapkan kepada had penggunaanSelepas beberapa kali pemeriksaan, pengguna mungkin menghadapi had harian untuk bilangan pengesahanUntuk kegunaan rumah biasa, ini mungkin bukan masalah besar, tetapi bagi wartawan, moderator kandungan atau penyelidik, sebagai contoh, ia boleh menjadi halangan yang tidak menyenangkan.
Ciri-ciri tambahan setakat ini bukan bahagian langsung daripada aplikasi Meta AIPengguna mesti menggunakannya melalui alat web yang berasingan, manakala pembantu itu sendiri Meta AI Setakat ini, ia tidak dapat menentukan asal usul imej tersebut secara automatik.
Meta telah mengambil langkah pertama ke arah pelabelan yang lebih baik terhadap ciptaan AI, tetapi jalan menuju sistem pengecaman universal masih panjang. Pada masa apabila garisan antara fotografi dan imejan yang dihasilkan semakin kabur, keupayaan untuk mengesahkan asal usul kandungan akan menjadi salah satu ciri utama dunia digital.
