- Negosiasi antara pemerintahan Trump dan Anthropic terhenti karena kekhawatiran yang belum terselesaikan mengenai kerentanan "jailbreaking" pada model Claude Fable 5.
- NSA mengkonfirmasi bahwa penghalang keamanan dapat dilewati untuk mengakses data keamanan siber dan biokimia yang sensitif, yang menyebabkan kontrol ekspor yang ketat.
- Para ahli industri memperingatkan bahwa tuntutan pemerintah untuk sistem yang 100% anti-jailbreak mungkin secara teknis tidak mungkin dilakukan karena sifat model bahasa yang besar.
- Konfrontasi ini menandai pergeseran besar dalam kebijakan AS, yang memperlakukan AI canggih sebagai infrastruktur nasional strategis, bukan hanya perangkat lunak komersial.
Kebuntuan baru-baru ini antara pemerintahan Trump dan Anthropic telah menimbulkan riak di dunia teknologi, seiring dengan negosiasi mengenai perilisan Model Claude Fable 5 Mencapai jalan buntu minggu ini. Terlepas dari pembicaraan tingkat tinggi selama beberapa hari yang melibatkan para eksekutif puncak dan pejabat pemerintah, Kontrol ekspor ketat diberlakukan pada AI tercanggih milik Anthropic. tetap berada di tempatnya. Situasi saat ini menunjukkan bahwa Washington tidak lagi bersedia untuk tinggal diam sementara laboratorium berlomba-lomba menciptakan sistem yang semakin canggih tanpa jaminan keamanan yang sempurna.
Inti permasalahannya terletak pada teknik yang dikenal sebagai jailbreaking, di mana pengguna memanipulasi perintah AI untuk melewati protokol keamanan. Meskipun Anthropic secara konsisten berpendapat bahwa risikonya dibesar-besarkan, pihak administrasi Kekhawatiran tersebut terbukti benar melalui analisis mendalam. dilakukan oleh Badan Keamanan Nasional. Drama ini pada dasarnya telah menarik garis batas, menunjukkan bahwa Gedung Putih sekarang memandang model AI mutakhir sebagai aset nasional strategis yang membutuhkan tingkat pengawasan yang sama seperti persenjataan canggih atau teknologi nuklir.
Intervensi NSA dan Penguncian Claude Fable 5
Ketegangan memuncak pekan lalu ketika Departemen Perdagangan mengeluarkan arahan yang secara efektif memutus akses internasional ke Fable 5. Langkah ini bukan sekadar hambatan birokrasi biasa; hal ini dipicu setelah CEO Amazon, Andy Jassy, dilaporkan membunyikan alarm kepada Menteri Keuangan Scott Bessent mengenai potensi kerentanan dalam sistem. Ketika NSA turun tangan untuk memverifikasi klaim ini, mereka menyimpulkan bahwa pengamanan yang dimaksudkan untuk melindungi Keamanan siber tingkat tinggi pada model Claude Mythos. dan kemampuan biokimia memang bisa diatasi.
Karena model-model ini sangat saling terkait, pelanggaran pada Fable 5 yang berhadapan langsung dengan konsumen berpotensi menyerahkan kunci kerajaan kepada pelaku kejahatan Berupaya mengeksploitasi kekuatan yang mendasari Mythos. Anthropic mencoba mengurangi dampak situasi tersebut dengan menonaktifkan model secara global, dengan alasan bahwa secara operasional tidak mungkin untuk membatasi akses hanya kepada entitas asing. Penutupan total ini telah membuat banyak pengguna terlantar, tetapi hal ini menyoroti bagaimana Keamanan nasional kini menjadi prioritas utama. terkait ketersediaan komersial di mata pemerintah AS.
Medan Pertempuran Teknologi: Apakah Risiko Nol Mungkin?
Meskipun pemerintah menginginkan solusi lengkap, banyak kalangan ilmiah berpendapat bahwa Washington meminta hal yang mustahil. Tidak seperti perangkat lunak tradisional di mana Anda hanya perlu menambal celah dalam kode, peretasan AI agak sulit diprediksi karena... mengandalkan nuansa bahasa manusia alih-alih kesalahan teknis tertentu. Para ahli telah menunjukkan bahwa selama model-model ini dirancang agar fleksibel dan kreatif, kemungkinan akan selalu ada cara cerdas untuk membujuknya melakukan sesuatu yang seharusnya tidak dilakukan.
Anthropic telah mendorong strategi "pertahanan berlapis", yang berfokus pada pemantauan dan respons cepat daripada menjanjikan perisai yang sempurna. Namun, pemerintahan Trump tampaknya masih mengharapkan standar keamanan yang lebih tinggi dan dapat diverifikasi sebelum mengizinkan model tersebut kembali ke pasaran. Benturan filosofi ini menciptakan banyak gesekan, karena perusahaan teknologi merasa mereka sedang dipertanggungjawabkan pada standar kesempurnaan Hal itu sama sekali tidak ada di dunia teknik yang sebenarnya.
Dampak berantai dari keputusan ini sudah mulai dirasakan di seluruh industri, menandai era baru "regulasi bayangan" di mana kontrol ekspor digunakan sebagai alat utama pengawasan. Dengan membuat Anthropic menjadi studi kasus untuk aturan-aturan baru ini.Gedung Putih mengirimkan pesan yang jelas kepada raksasa lain seperti OpenAI dan Google. Jika Anda ingin menerapkan model-model mutakhir generasi berikutnya, Anda perlu membuktikan kepada pemerintah federal bahwa model Anda Hambatan internal lebih dari sekadar saran sopan. kepada pengguna.
Ke depannya, fokus kemungkinan akan bergeser ke arah menciptakan kerangka kerja standar untuk mengukur risiko-risiko ini sehingga keputusan tidak dibuat secara terburu-buru selama rapat darurat. Untuk saat ini, kontrol ekspor pada stand Claude Fable 5 Sebagai pengingat bahwa era "wild west" pengembangan AI akan segera berakhir. Industri ini memasuki fase yang lebih strategis, dan mungkin lebih terkendali, di mana Keamanan dan inovasi pada akhirnya harus menemukan jalan keluar. untuk hidup berdampingan di bawah pengawasan ketat regulator nasional.
