- Rundingan antara pentadbiran Trump dan Anthropic telah terhenti disebabkan oleh kebimbangan yang tidak dapat diselesaikan mengenai kelemahan "jailbreaking" dalam model Claude Fable 5.
- NSA mengesahkan bahawa halangan keselamatan boleh dipintas untuk mengakses data keselamatan siber dan biokimia yang sensitif, yang membawa kepada kawalan eksport yang ketat.
- Pakar industri memberi amaran bahawa permintaan kerajaan untuk sistem yang 100% kalis jailbreak mungkin mustahil secara teknikalnya disebabkan oleh sifat model bahasa yang besar.
- Kebuntuan ini menandakan perubahan besar dalam dasar AS, yang menganggap AI canggih sebagai infrastruktur negara strategik dan bukan sekadar perisian komersial.
Kebuntuan baru-baru ini antara pentadbiran Trump dan Anthropic telah mencetuskan pelbagai reaksi dalam dunia teknologi, apabila rundingan mengenai pelancaran model Claude Fable 5 menemui jalan buntu minggu ini. Walaupun terdapat perbincangan peringkat tinggi selama berhari-hari yang melibatkan eksekutif tertinggi dan pegawai kerajaan, kawalan eksport ketat yang dikenakan ke atas AI paling canggih Anthropic masih kukuh. Situasi semasa menunjukkan bahawa Washington tidak lagi sanggup mengambil tempat duduk belakang sementara makmal berlumba-lumba ke arah sistem yang semakin berkuasa tanpa jaminan keselamatan yang kukuh.
Inti pati perkara ini terletak pada teknik yang dikenali sebagai jailbreaking, di mana pengguna memanipulasi gesaan AI untuk memintas protokol keselamatan. Walaupun Anthropic secara konsisten berhujah bahawa risiko tersebut dibesar-besarkan secara berlebihan, kebimbangan pentadbiran telah disahkan oleh analisis mendalam yang dijalankan oleh Agensi Keselamatan Negara. Drama ini pada dasarnya telah menetapkan garis panduan, menunjukkan bahawa Rumah Putih kini melihat model AI sempadan sebagai aset strategik negara yang memerlukan tahap penelitian yang sama seperti persenjataan canggih atau teknologi nuklear.
Campur Tangan NSA dan Perintah Berkurung Claude Fable 5
Ketegangan memuncak minggu lalu apabila Jabatan Perdagangan mengeluarkan arahan yang berkesan memutuskan akses antarabangsa kepada Fable 5. Langkah ini bukan sekadar halangan birokrasi rawak; ia dicetuskan selepas Ketua Pegawai Eksekutif Amazon, Andy Jassy, dilaporkan telah membunyikan penggera kepada Setiausaha Perbendaharaan Scott Bessent mengenai potensi kelemahan dalam sistem tersebut. Apabila NSA campur tangan untuk mengesahkan dakwaan ini, mereka membuat kesimpulan bahawa perlindungan yang bertujuan untuk melindungi keselamatan siber dan keupayaan biokimia model Claude Mythos yang canggih sememangnya boleh dielakkan.
Oleh kerana model-model ini saling berkaitan secara mendalam, pelanggaran dalam Fable 5 yang berhadapan dengan pengguna berpotensi menyerahkan kunci kerajaan kepada pelaku jahat yang ingin mengeksploitasi kuasa tersembunyi Mythos. Anthropic cuba mengurangkan situasi dengan melumpuhkan model-model tersebut secara global, mendakwa bahawa secara operasinya mustahil untuk menyekat akses semata-mata kepada entiti asing. Penutupan sepenuhnya ini telah menyebabkan ramai pengguna terkesan, tetapi ia menonjolkan bagaimana keselamatan negara kini diutamakan berbanding ketersediaan komersial di mata kerajaan AS.
Medan Pertempuran Teknikal: Adakah Risiko Sifar Mungkin?
Walaupun kerajaan mahukan penyelesaian sepenuhnya, ramai dalam komuniti saintifik berpendapat Washington meminta sesuatu yang mustahil. Tidak seperti perisian tradisional di mana anda hanya boleh menampal lubang pada kod, jailbreak AI agak menjadi sasaran kerana ia bergantung pada nuansa bahasa manusia dan bukannya pepijat teknikal tertentu. Pakar telah menegaskan bahawa selagi model ini direka bentuk untuk menjadi fleksibel dan kreatif, kemungkinan besar akan sentiasa ada cara yang bijak untuk memujuk mereka melakukan sesuatu yang tidak sepatutnya dilakukan.
Anthropic telah melaksanakan strategi "pertahanan mendalam", yang menumpukan pada pemantauan dan tindak balas pantas dan bukannya menjanjikan perisai yang sempurna. Walau bagaimanapun, pentadbiran Trump nampaknya mahukan standard keselamatan yang boleh disahkan yang lebih tinggi sebelum membiarkan model itu kembali beroperasi. Pertembungan falsafah ini menimbulkan banyak pergeseran, kerana syarikat teknologi merasakan mereka dipegang pada standard kesempurnaan yang tidak wujud dalam dunia kejuruteraan sebenar.
Kesan riak keputusan ini sudah pun dirasai di seluruh industri, menandakan era baharu "peraturan bayangan" di mana kawalan eksport digunakan sebagai alat utama untuk pengawasan. Dengan menjadikan Anthropic sebagai kes ujian untuk peraturan baharu ini , Rumah Putih menghantar mesej yang jelas kepada syarikat gergasi lain seperti OpenAI dan Google. Jika anda ingin menggunakan model sempadan generasi akan datang, anda perlu membuktikan kepada pihak persekutuan bahawa halangan dalaman anda lebih daripada sekadar cadangan yang sopan kepada pengguna.
Melangkah ke hadapan, tumpuan mungkin akan beralih ke arah mewujudkan rangka kerja piawai untuk mengukur risiko ini supaya keputusan tidak dibuat secara tiba-tiba semasa mesyuarat kecemasan. Buat masa ini, kawalan eksport pada Claude Fable 5 berdiri sebagai peringatan bahawa era pembangunan AI di barat liar akan berakhir. Industri ini memasuki fasa yang lebih strategik, dan mungkin lebih terhad, di mana keselamatan dan inovasi akhirnya mesti mencari jalan untuk wujud bersama di bawah pengawasan pengawal selia negara.
