7 hours ago
1
Jakarta, CNBC Indonesia - Perusahaan kecerdasan buatan (AI) asal Amerika Serikat (AS), Anthropic, meminta keterlibatan pemuka agama hingga pemerintah untuk mengawasi perkembangan AI yang bergerak sangat cepat.
Permintaan itu disampaikan langsung oleh salah satu pendiri Anthropic, Chris Olah, dalam sebuah acara di Vatikan, Senin (25/5), tepat saat peluncuran ensiklik pertama Paus Leo yang membahas tantangan AI.
Dalam kesempatan tersebut, Olah menegaskan pengembangan AI tidak bisa dibiarkan hanya di tangan perusahaan teknologi. Menurut dia, dibutuhkan pengawasan lebih luas dari pemuka agama, pemerintah, hingga masyarakat sipil karena dampaknya bisa sangat besar terhadap kehidupan manusia.
"Jika itu terjadi, mendukung mereka yang terdampak akan menjadi kewajiban moral bersejarah," kata Olah, dikutip Reuters, Selasa (26/5/2026).
Pernyataan itu menarik perhatian karena Anthropic selama ini dikenal sebagai salah satu perusahaan AI terdepan di AS, sekaligus pemasok teknologi AI untuk kebutuhan militer AS. Namun, Anthropic dan pemerintah AS bersitegang lantaran perusahaan tiba-tiba menolak tool AI-nya dipakai mengembangkan senjata otonom atau memata-matai warga.
Trump murka dan melarang penggunaan tool AI di berbagai lembaga pemerintahan. Kendati demikian, WSJ melaporkan tool AI Anthropic masih digunakan dalam perang melawan Iran pada 28 Februari lalu, yakni untuk simulasi tempur dan penargetan musuh.
Dalam kesempatan itu, Olah mengakui perusahaan-perusahaan AI berada di bawah tekanan besar, mulai dari persaingan bisnis, kepentingan geopolitik, hingga tekanan internal.
Menurut dia, tekanan tersebut bisa berbenturan dengan kepentingan publik.
"Setiap laboratorium AI terdepan beroperasi dalam sistem insentif yang kadang bertentangan dengan melakukan hal yang benar," ujarnya.
Anthropic sendiri merupakan perusahaan AI berbasis di AS yang mengembangkan chatbot Claude. Perusahaan ini didirikan pada 2021 oleh mantan petinggi OpenAI.
Pendiri Anthropic sebelumnya keluar dari OpenAI karena khawatir pengembangan AI dilakukan terlalu cepat tanpa pengujian yang memadai.
Di Vatikan, Olah menjadi satu-satunya perwakilan perusahaan teknologi besar yang hadir. Ia mengatakan keterlibatan Gereja penting karena persoalan AI tidak hanya soal teknologi, tetapi juga menyangkut etika dan dampak sosial global.
Olah menyebut ada tiga risiko besar yang kini harus segera direspons dunia. Pertama, ancaman hilangnya lapangan kerja secara luas akibat AI. Kedua, distribusi manfaat AI yang dinilai masih terkonsentrasi di negara-negara kaya. Ketiga, pertanyaan yang belum terjawab soal bagaimana memahami perilaku sistem AI yang makin kompleks dan kadang sulit dijelaskan.
(fab/fab)
Add
as a preferred
source on Google
