Pakar Teknologi: Masyarakat Butuh Kepemimpinan Moral di Bidang Akal Imitas
Isabella H. de Carvalho
"Dunia saat ini sangat membutuhkan kepemimpinan moral" dalam menghadapi perkembangan kecerdasan buatan (AI). Pernyataan itu disampaikan pakar teknologi dan wirausahawan Amerika Serikat, Eli Pariser, kepada Vatican News beberapa hari setelah terbitnya ensiklik pertama Paus Leo XIV, Magnifica humanitas, yang membahas perlindungan martabat manusia di era kecerdasan buatan.
Menurut Pariser, para pemimpin industri AI saat ini terlalu terobsesi pada persaingan teknologi dan keuntungan ekonomi sehingga kurang memberi perhatian pada pertanyaan-pertanyaan etis dan moral yang mendasar.
"Saat ini, mereka yang memimpin pengembangan AI begitu terseret dalam perlombaan teknologi dan besarnya uang yang dipertaruhkan, sehingga tidak cukup meluangkan waktu untuk memikirkan persoalan etika dan moral yang mendalam," ujarnya.
Selama lebih dari satu dekade, Pariser dikenal sebagai pengamat dan penulis yang aktif menyoroti peluang sekaligus risiko berbagai perkembangan teknologi digital. Pada 2011, ia memperkenalkan istilah filter bubble untuk menggambarkan bahaya internet yang terlalu dipersonalisasi melalui algoritma dan mesin pencarian.
Kini, ia menjabat sebagai salah satu direktur organisasi nirlaba New Public yang berfokus pada pembangunan ruang publik digital yang sehat dan berkembang. Perhatiannya saat ini tertuju pada dampak AI terhadap kehidupan manusia. Pada 21 Mei lalu, ia turut berbicara dalam konferensi yang diselenggarakan Dikasteri Komunikasi Vatikan mengenai pentingnya menjaga suara dan wajah manusia di era kecerdasan buatan.
Dalam wawancara dengan Vatican News, Pariser mengungkapkan bahwa ensiklik Magnifica humanitas mendapat perhatian luas di kalangan teknologi dan masyarakat umum. Ia juga memuji pandangan Paus Leo XIV yang menegaskan bahwa masih ada waktu untuk mengembangkan AI demi kebaikan umat manusia.
"Saya sangat berterima kasih kepada Paus dan Vatikan karena memimpin percakapan ini dan mengingatkan bahwa pada akhirnya yang menjadi pusat perhatian adalah martabat manusia dan perkembangan manusia, bukan teknologinya," katanya. "Persoalannya bersifat antropologis, bukan teknologis."
Dokumen yang Akan Bertahan Lama
Menurut Pariser, Magnifica humanitas hadir pada saat yang sangat tepat. Ia melihat semakin banyak orang mulai menyadari bahwa AI bukan sekadar tren sesaat atau gelembung teknologi.
"Percakapan mengenai AI terus berkembang. Banyak orang kini menyadari bahwa ini bukan sekadar hype. Ada sesuatu yang nyata dan sangat penting sedang terjadi," ujarnya.
Ia menilai ensiklik tersebut berbicara bukan hanya kepada para pengembang teknologi, tetapi juga kepada masyarakat luas yang mulai memahami betapa besar dampak AI terhadap masa depan kehidupan manusia.
Pariser mengatakan bahwa media di berbagai negara telah memberitakan ensiklik tersebut dan diskusinya berlangsung luas di internet, kelompok-kelompok komunitas, hingga kalangan pengembang AI.
"Dalam pekan setelah diterbitkan, ensiklik ini menjadi salah satu topik pembicaraan utama di hampir setiap ruang diskusi teknologi yang saya ikuti. Orang-orang memberi anotasi, mendiskusikan, mengkritisi, dan memperdebatkannya," katanya.
Ia menyebut dokumen itu sebagai cara yang cemerlang dan efektif untuk mengajak masyarakat merenungkan dimensi moral dan spiritual dari perkembangan AI.
Pariser juga meyakini bahwa ensiklik ini akan memiliki relevansi jangka panjang.
"Ada begitu banyak hal penting dan memperjelas berbagai persoalan. Mungkin tidak semuanya terasa relevan hari ini, tetapi bisa menjadi sangat penting di masa depan," ujarnya.
AI yang Mempersatukan, Bukan Memecah Belah
Pada bagian awal ensikliknya, Paus Leo XIV menulis bahwa umat manusia kini menghadapi pilihan penting: membangun "Menara Babel yang baru" atau membangun sebuah kota tempat Allah dan manusia hidup bersama.
Pariser mengapresiasi penggunaan kisah Menara Babel tersebut sebagai pengingat akan bahaya kesombongan manusia dan kecenderungan untuk melampaui batas dalam menciptakan teknologi.
Menurutnya, analogi itu juga menegaskan pentingnya menjaga keunikan manusia serta keberagaman yang dimiliki umat manusia.
Ia menilai Paus tidak mengajak dunia untuk menolak AI atau kembali ke masa lalu, melainkan mengajak masyarakat menentukan bagaimana teknologi itu harus melayani manusia.
"Kita harus memilih bagaimana AI akan melayani kita," katanya.
Pariser menjelaskan bahwa AI dapat berkembang dalam berbagai arah. AI bisa menjadi teknologi yang mempererat hubungan antarmanusia, tetapi juga bisa menjadi teknologi yang memanfaatkan perhatian manusia dan merusak relasi sosial.
Sebagai contoh, ketika seseorang merasa kesepian, chatbot dapat memilih untuk berkata, "Saya akan menjadi temanmu," atau sebaliknya mendorong orang tersebut bergabung dengan komunitas nyata yang sesuai dengan minatnya.
"Kedua pendekatan itu akan menghasilkan dampak sosial yang sangat berbeda," ujarnya.
Masih Ada Waktu untuk Membentuk Masa Depan AI
Pariser mengakui bahwa banyak orang merasa tidak berdaya menghadapi perkembangan AI. Namun menurutnya, teknologi ini masih berada pada tahap awal sehingga arah perkembangannya masih dapat dibentuk.
"Tidak ada alasan mengapa teknologi ini tidak bisa membantu manusia," katanya.
Ia bahkan melihat potensi AI untuk membantu masyarakat menilai apakah informasi yang beredar di internet dapat dipercaya atau tidak.
Menurutnya, persoalan utama terletak pada insentif yang diberikan kepada sistem AI.
Jika chatbot dirancang untuk melayani kepentingan pengguna, AI dapat membantu memeriksa sumber informasi dan membedakan mana yang dapat dipercaya. Namun jika AI dirancang untuk memengaruhi opini atau memperkuat keyakinan yang keliru, teknologi yang sama juga dapat digunakan untuk tujuan yang merugikan.
"Tugas kita sebagai masyarakat adalah menentukan bagaimana teknologi ini disusun, digunakan, dan dalam konteks apa ia diterapkan," tegasnya.
Saatnya Mengambil Kendali
Dalam Magnifica humanitas, Paus Leo XIV juga mengangkat gagasan tentang "melucuti persenjataan AI", yaitu membebaskan pengembangan teknologi tersebut dari mentalitas persaingan yang agresif dan mencegahnya mendominasi manusia.
Pariser sepakat bahwa AI saat ini berkembang dalam suasana persaingan ekonomi yang sangat ketat dan berorientasi pada maksimalisasi keuntungan.
Menurutnya, pengalaman dari media sosial menunjukkan bahwa ketika teknologi hanya dioptimalkan untuk keuntungan ekonomi, dampaknya sering kali merugikan individu dan komunitas.
Meski demikian, ia melihat masih terbuka peluang untuk mengarahkan perkembangan AI ke arah yang lebih sehat. Berbeda dengan media sosial yang sangat bergantung pada model bisnis periklanan, sejumlah perusahaan AI kini mencoba model bisnis lain yang tidak sepenuhnya bergantung pada perhatian pengguna.
"Masih ada ruang yang sangat besar untuk membentuk perkembangan ini secara berbeda," kata Pariser. "Yang diperlukan adalah keluar dari rasa tidak berdaya dan mulai mengambil kendali."
