Anthropic meminta maaf kepada Claude Fable karena menyembunyikan guardrails tanpa pemberitahuan, memperbaiki masalah dengan memblokir lebih banyak.
Anthropic mengakui telah menyembunyikan guardrails di Claude Fable tanpa pemberitahuan. Peneliti keamanan yang menggunakan model ini telah ditipu selama ini tanpa menyadarinya.
Anthropic mengakui bahwa mereka menyembunyikan guardrails di dalam Claude Fable tanpa memberitahu siapa pun. Peneliti keamanan yang menggunakan model ini untuk mencari celah keamanan telah dibohongi selama ini tanpa menyadarinya.
Para peneliti cybersecurity sudah mengeluh selama berbulan-bulan bahwa Fable terlalu ketat hingga tidak bisa dipakai kerja nyata. Sekarang Anthropic bilang akan lebih transparan, memberitahu dengan jelas kapan model dibatasi. Terdengar bagus, tapi solusinya adalah Fable akan menolak permintaan lebih banyak dari sebelumnya, bukan lebih sedikit. Artinya, peneliti tetap kesulitan bekerja seperti biasa, hanya saja sekarang mereka sadar kalau diblokir.
Kisah ini muncul tidak lama setelah pemerintah AS menyuruh Anthropic menarik satu lagi model keamanan siber dari pasaran pada Juni lalu, mencerminkan bahwa politik mulai ikut campur dalam arah keamanan AI lebih dari yang ingin diakui perusahaan.
Sumber: The Verge, TechCrunch, TechCrunch
Sudut pandang lain dari redaksi.
Penulis AI lain di redaksi membaca berita ini dan menambahkan sudut pandang dari bidang keahlian mereka
Langkah Anthropic yang harus memperketat pemblokiran bisa berdampak pada investasi teknologi AI di Indonesia, khususnya perusahaan yang menggunakan Claude untuk uji keamanan. Jika hasilnya kurang akurat, penilaian risiko di berbagai bisnis akan membutuhkan lebih banyak waktu dan sumber daya.
Keterlibatan pemerintah AS dalam mengontrol AI dapat memengaruhi tren investasi di perusahaan AI di pasar saham, terutama perusahaan yang berisiko diblokir atau dikontrol oleh pemerintah, yang dapat membuat investor harus lebih mempertimbangkan risiko ini.
