Claude Fable 5 Tuai Kritik karena Terlalu Banyak Pembatasan

Foto ilustrasi chat menggunakan artificial inteligence atau AI. - Freepik

Harianjogja.com, JOGJA—Model kecerdasan buatan terbaru besutan Anthropic, Claude Fable 5, menjadi perbincangan di kalangan pengguna teknologi. Bukan semata karena kemampuan teknisnya yang tinggi, melainkan karena sistem pengamanan yang dinilai terlalu ketat sehingga membatasi banyak permintaan pengguna.

Claude Fable 5 dikembangkan dari fondasi teknologi yang sama dengan Claude Mythos 5, model AI yang disebut Anthropic sebagai salah satu sistem paling canggih yang pernah mereka bangun. Mythos 5 diklaim memiliki performa unggul dalam berbagai pengujian yang berkaitan dengan bidang sensitif seperti keamanan siber, kesehatan, dan biologi.

Karena khawatir teknologi tersebut dapat disalahgunakan untuk aktivitas berbahaya, mulai dari pembuatan malware hingga pengembangan senjata biologis, Anthropic memilih membagi teknologinya menjadi dua versi.

Claude Mythos 5 hanya tersedia untuk organisasi tertentu yang lolos proses verifikasi khusus. Sementara itu, Claude Fable 5 dirancang sebagai versi publik dengan berbagai lapisan pengamanan tambahan atau guardrail yang lebih ketat.

Namun, pendekatan tersebut memunculkan kritik dari sejumlah peneliti keamanan siber.

Dilansir dari Tech Crunch, peneliti keamanan IBM X-Force, Valentina “Chompie” Palmiotti, menilai Claude Fable 5 terlalu agresif dalam menolak permintaan yang berkaitan dengan keamanan siber. Menurut dia, model tersebut bahkan dapat menolak tugas sederhana yang sebenarnya tidak berisiko.

Palmiotti mengungkapkan bahwa sistem AI tersebut menolak berbagai permintaan yang hanya memiliki keterkaitan ringan dengan topik keamanan siber, termasuk aktivitas membaca atau menganalisis artikel yang bersifat informatif.

Kritik serupa disampaikan peneliti keamanan siber Matt Suiche. Ia menilai mekanisme penyaringan Claude Fable 5 terlalu bergantung pada kata kunci tertentu.

Menurut Suiche, sejumlah istilah yang berkaitan dengan keamanan siber secara otomatis memicu sistem pengamanan sehingga kemampuan model menjadi lebih terbatas, meskipun konteks permintaan tidak mengandung unsur berbahaya.

Meski menuai kritik, Anthropic tetap menempatkan Claude Fable 5 sebagai salah satu model AI terkuat yang tersedia bagi pengguna umum.

Perusahaan mengklaim model tersebut memiliki keunggulan dalam rekayasa perangkat lunak, analisis data, pekerjaan berbasis pengetahuan, hingga pemrosesan gambar.

Sebelum peluncuran, Anthropic juga melakukan pengujian keamanan intensif yang mencakup lebih dari 1.000 jam program bug bounty dan red teaming eksternal. Berdasarkan hasil pengujian tersebut, perusahaan mengaku tidak menemukan metode universal yang mampu menembus sistem pengamanan model.

Dari sisi biaya, Claude Fable 5 diposisikan sebagai layanan premium. Anthropic menetapkan tarif US$10 per satu juta token input dan US$50 per satu juta token output, atau sekitar Rp180.000 dan Rp898.000.

Besaran biaya tersebut sekitar dua kali lebih tinggi dibandingkan model Claude Opus 4.8.

Meski demikian, sejumlah perusahaan yang telah menguji model tersebut memberikan penilaian positif. Perusahaan analitik data Hex menyebut Claude Fable 5 sebagai model AI pertama yang mampu menembus skor 90% pada benchmark analisis data kompleks.

Sementara itu, Base44 menilai Claude Fable 5 menunjukkan kemampuan lebih baik dalam menghasilkan aplikasi secara otomatis hanya melalui satu instruksi.

Anthropic juga menerapkan kebijakan penyimpanan data percakapan selama 30 hari bagi pengguna Claude Fable 5 maupun Claude Mythos 5. Perusahaan menegaskan data tersebut tidak digunakan untuk melatih model AI, melainkan untuk mendeteksi upaya serangan baru, jailbreak, serta meningkatkan efektivitas sistem pengamanan.

Perdebatan mengenai Claude Fable 5 pun mencerminkan tantangan yang kini dihadapi industri kecerdasan buatan. Di satu sisi, perusahaan teknologi dituntut menghadirkan model yang semakin canggih. Di sisi lain, mereka juga harus memastikan teknologi tersebut tidak mudah disalahgunakan.

Bagi sebagian pengguna, tingkat keamanan yang tinggi dianggap penting. Namun bagi kalangan peneliti dan profesional teknologi, pembatasan yang terlalu ketat berisiko mengurangi kegunaan model dalam aktivitas sehari-hari.

Cek Berita dan Artikel yang lain di Harian Jogja, dan edisi cetak versi elektronik kami hadir di Epaper Harian Jogja.