Melestarikan Suara dan Wajah Manusia
Saudara-saudari terkasih,
Wajah dan suara kita adalah ciri unik dan khas setiap orang; keduanya mengungkapkan identitas seseorang yang tak terulang dan merupakan elemen penentu dalam setiap pertemuan dengan orang lain. Orang-orang zaman dahulu memahami hal ini dengan baik. Untuk mendefinisikan manusia, orang Yunani kuno menggunakan kata “wajah” (prósōpon), karena secara etimologis kata itu mengungkapkan apa yang ada di hadapan pandangan seseorang, tempat kehadiran dan hubungan. Istilah Latin “orang” (dari per-sonare), di sisi lain, membangkitkan gagasan tentang suara: bukan sembarang suara, tetapi suara seseorang yang tak salah lagi.
Wajah dan suara adalah suci. Allah, yang menciptakan kita menurut gambar dan rupa-Nya, memberikannya kepada kita ketika Ia memanggil kita kepada kehidupan melalui Firman yang Ia sampaikan kepada kita. Firman ini bergema selama berabad-abad melalui suara para nabi, dan kemudian menjadi daging pada kegenapan waktu. Kita pun telah mendengar dan melihat Firman ini (bdk. 1 Yoh 1:1-3) — di mana Allah mengkomunikasikan diri-Nya sendiri kepada kita — karena Firman itu telah dinyatakan kepada kita dalam suara dan wajah Yesus, Putra Allah.
Sejak saat penciptaan, Tuhan menginginkan pria dan wanita menjadi lawan bicara-Nya, dan, seperti yang dijelaskan oleh Santo Gregorius dari Nyssa [1] , Dia menanamkan pada wajah kita refleksi kasih ilahi, sehingga kita dapat sepenuhnya menghayati kemanusiaan kita melalui kasih. Oleh karena itu, melestarikan wajah dan suara manusia berarti melestarikan tanda ini, refleksi kasih Tuhan yang tak terhapuskan ini. Kita bukanlah spesies yang terdiri dari rumus biokimia yang telah ditentukan sebelumnya. Setiap dari kita memiliki panggilan yang tak tergantikan dan tak tertandingi, yang berasal dari pengalaman hidup kita sendiri dan terwujud melalui interaksi dengan orang lain.
Jika kita gagal dalam tugas pelestarian ini, teknologi digital mengancam untuk secara radikal mengubah beberapa pilar fundamental peradaban manusia yang terkadang kita anggap remeh. Dengan mensimulasikan suara dan wajah manusia, kebijaksanaan dan pengetahuan, kesadaran dan tanggung jawab, empati dan persahabatan, sistem yang dikenal sebagai kecerdasan buatan tidak hanya mengganggu ekosistem informasi, tetapi juga merambah ke tingkat komunikasi terdalam, yaitu hubungan antar manusia.
Oleh karena itu, tantangannya bukanlah teknologi, melainkan antropologi. Melindungi wajah dan suara pada akhirnya berarti melindungi diri kita sendiri. Merangkul peluang yang ditawarkan oleh teknologi digital dan kecerdasan buatan dengan keberanian, tekad, dan kebijaksanaan bukan berarti menutup mata terhadap isu-isu kritis, kompleksitas, dan risiko.
Jangan menyerah pada kemampuanmu untuk berpikir.
Telah lama terdapat banyak bukti bahwa algoritma yang dirancang untuk memaksimalkan keterlibatan di media sosial — yang menguntungkan bagi platform — memberi penghargaan pada emosi yang cepat dan menghukum respons manusia yang lebih memakan waktu, seperti upaya yang diperlukan untuk memahami dan merenungkan. Dengan mengelompokkan orang ke dalam gelembung konsensus yang mudah dan kemarahan yang mudah, algoritma ini mengurangi kemampuan kita untuk mendengarkan dan berpikir kritis, serta meningkatkan polarisasi sosial.
Hal ini semakin diperparah oleh ketergantungan yang naif dan tanpa pertanyaan pada kecerdasan buatan sebagai “teman” yang mahatahu, sumber segala pengetahuan, arsip setiap ingatan, “peramal” segala nasihat. Semua ini dapat semakin mengikis kemampuan kita untuk berpikir analitis dan kreatif, untuk memahami makna dan membedakan antara sintaksis dan semantik.
Meskipun AI dapat memberikan dukungan dan bantuan dalam mengelola tugas-tugas yang berkaitan dengan komunikasi, dalam jangka panjang, memilih untuk menghindari upaya berpikir sendiri dan puas dengan kompilasi statistik buatan mengancam untuk mengurangi kemampuan kognitif, emosional, dan komunikasi kita.
Dalam beberapa tahun terakhir, sistem kecerdasan buatan semakin mengambil alih produksi teks, musik, dan video. Hal ini menempatkan sebagian besar industri kreatif manusia pada risiko dibongkar dan digantikan dengan label “Didukung oleh AI,” mengubah manusia menjadi konsumen pasif dari pemikiran yang tak terpikirkan dan produk anonim tanpa kepemilikan atau kecintaan. Sementara itu, mahakarya jenius manusia di bidang musik, seni, dan sastra direduksi menjadi sekadar tempat pelatihan bagi mesin.
Namun, inti pertanyaannya bukanlah apa yang dapat atau akan dapat dilakukan oleh mesin, melainkan apa yang dapat dan akan dapat kita capai, dengan bertumbuh dalam kemanusiaan dan pengetahuan melalui penggunaan yang bijaksana dari alat-alat canggih yang tersedia bagi kita. Individu selalu berusaha untuk memperoleh buah pengetahuan tanpa usaha yang dibutuhkan oleh komitmen, penelitian, dan tanggung jawab pribadi. Namun, melepaskan kreativitas dan menyerahkan kapasitas mental serta imajinasi kita kepada mesin berarti mengubur bakat yang telah diberikan kepada kita untuk tumbuh sebagai individu dalam hubungan dengan Tuhan dan sesama. Itu berarti menyembunyikan wajah kita dan membungkam suara kita.
Menjadi atau berpura-pura menjadi: mensimulasikan hubungan dan realitas
Saat kita menelusuri umpan media sosial, semakin sulit untuk menentukan apakah kita berinteraksi dengan manusia lain atau dengan “bot” atau “influencer virtual.” Intervensi yang kurang transparan dari agen otomatis ini memengaruhi debat publik dan pilihan orang. Chatbot yang berbasis pada model bahasa besar (LLM) terbukti sangat efektif dalam persuasi terselubung melalui optimalisasi berkelanjutan dari interaksi yang dipersonalisasi. Struktur dialogis, adaptif, dan mimetik dari model bahasa ini mampu meniru perasaan manusia dan dengan demikian mensimulasikan sebuah hubungan. Meskipun antropomorfisasi ini bisa menghibur, ia juga menipu, terutama bagi mereka yang paling rentan. Karena chatbot terlalu “penuh kasih sayang,” serta selalu hadir dan mudah diakses, mereka dapat menjadi arsitek tersembunyi dari keadaan emosional kita dan dengan demikian menginvasi dan menduduki ruang keintiman kita.
Teknologi yang mengeksploitasi kebutuhan kita akan hubungan dapat menyebabkan bukan hanya konsekuensi yang menyakitkan dalam kehidupan individu, tetapi juga kerusakan pada tatanan sosial, budaya, dan politik masyarakat. Hal ini terjadi ketika kita menggantikan hubungan dengan orang lain dengan sistem AI yang mengkatalogkan pikiran kita, menciptakan dunia cermin di sekitar kita, di mana segala sesuatu dibuat “menurut citra dan rupa kita.” Dengan demikian, kita dirampas kesempatan untuk bertemu dengan orang lain, yang selalu berbeda dari diri kita sendiri, dan dengan siapa kita dapat dan harus belajar untuk berhubungan. Tanpa merangkul orang lain, tidak akan ada hubungan atau persahabatan.
Tantangan utama lain yang ditimbulkan oleh sistem-sistem baru ini adalah bias, yang menyebabkan perolehan dan penyebaran persepsi realitas yang menyimpang. Model AI dibentuk oleh pandangan dunia dari mereka yang membangunnya dan, pada gilirannya, dapat memaksakan cara berpikir ini dengan mereproduksi stereotip dan prasangka yang ada dalam data yang mereka gunakan. Kurangnya transparansi dalam pemrograman algoritma, bersama dengan representasi sosial data yang tidak memadai, cenderung menjebak kita dalam jaringan yang memanipulasi pikiran kita dan memperpanjang serta memperintensifkan ketidaksetaraan dan ketidakadilan sosial yang ada.
Taruhannya sangat tinggi. Kekuatan simulasi sedemikian rupa sehingga AI bahkan dapat menipu kita dengan menciptakan “realitas” paralel, mengambil alih wajah dan suara kita. Kita tenggelam dalam dunia multidimensi di mana semakin sulit untuk membedakan realitas dari fiksi.
Ketidakakuratan hanya memperburuk masalah ini. Sistem yang menyajikan probabilitas statistik sebagai pengetahuan, paling banter, hanya menawarkan perkiraan kebenaran, yang terkadang merupakan ilusi belaka. Kegagalan untuk memverifikasi sumber, ditambah dengan krisis dalam pelaporan lapangan, yang melibatkan pengumpulan dan verifikasi informasi secara terus-menerus di tempat-tempat terjadinya peristiwa, dapat semakin memicu disinformasi, menyebabkan meningkatnya rasa tidak percaya, kebingungan, dan ketidakamanan.
Kemungkinan aliansi
Di balik kekuatan tak terlihat yang sangat besar ini yang memengaruhi kita semua, hanya ada segelintir perusahaan, yang para pendirinya baru-baru ini dinobatkan sebagai pencipta “Tokoh Tahun 2025,” atau arsitek kecerdasan buatan. Hal ini menimbulkan kekhawatiran yang signifikan tentang kendali oligopolistik atas sistem algoritmik dan kecerdasan buatan, yang mampu secara halus memengaruhi perilaku dan bahkan menulis ulang sejarah manusia — termasuk sejarah Gereja — seringkali tanpa kita sadari.
Tugas yang ada di hadapan kita bukanlah untuk menghentikan inovasi digital, melainkan untuk membimbingnya dan menyadari sifat ambivalennya. Adalah tanggung jawab kita masing-masing untuk menyuarakan pembelaan terhadap hak asasi manusia, sehingga kita benar-benar dapat mengasimilasi alat-alat ini sebagai sekutu.
Aliansi ini mungkin terwujud, tetapi perlu didasarkan pada tiga pilar: tanggung jawab, kerja sama , dan pendidikan .
Pertama-tama, tanggung jawab . Tergantung pada peran yang kita mainkan, tanggung jawab dapat dipahami sebagai kejujuran, transparansi, keberanian, pandangan jauh ke depan, kewajiban untuk berbagi pengetahuan, atau hak untuk mendapatkan informasi. Namun, sebagai prinsip umum, tidak seorang pun dapat menghindari tanggung jawab pribadi atas masa depan yang sedang kita bangun.
Bagi mereka yang memimpin platform online, ini berarti memastikan bahwa strategi bisnis mereka tidak hanya dipandu oleh kriteria maksimalisasi keuntungan, tetapi juga oleh visi yang berwawasan ke depan yang mempertimbangkan kebaikan bersama, sama seperti setiap dari mereka peduli terhadap kesejahteraan anak-anak mereka sendiri.
Para pencipta dan pengembang model AI diundang untuk mempraktikkan transparansi dan tanggung jawab sosial terkait prinsip-prinsip desain dan sistem moderasi yang mendasari algoritma dan model yang mereka kembangkan, guna mendorong persetujuan yang terinformasi dari para pengguna.
Tanggung jawab yang sama juga dituntut dari para pembuat undang-undang nasional dan regulator supranasional, yang bertugas untuk memastikan penghormatan terhadap martabat manusia. Regulasi yang tepat dapat melindungi individu dari keterikatan emosional terhadap chatbot dan mengekang penyebaran konten palsu, manipulatif, atau menyesatkan, serta menjaga integritas informasi dan mencegah simulasi yang menipu.
Perusahaan media dan komunikasi, di sisi lain, tidak dapat membiarkan algoritma yang dirancang untuk mendapatkan beberapa detik perhatian tambahan dengan segala cara, mengalahkan nilai-nilai profesional mereka, yang bertujuan untuk mencari kebenaran. Kepercayaan publik diperoleh melalui akurasi dan transparansi, bukan dengan mengejar keterlibatan apa pun. Konten yang dihasilkan atau dimanipulasi oleh AI harus ditandai dan dibedakan dengan jelas dari konten yang dibuat oleh manusia. Kepengarangan dan kepemilikan mutlak atas karya jurnalis dan pembuat konten lainnya harus dilindungi. Informasi adalah barang publik. Pelayanan publik yang konstruktif dan bermakna tidak didasarkan pada ketidakjelasan, tetapi pada transparansi sumber, keterlibatan pihak-pihak yang terlibat, dan standar kualitas yang tinggi.
Kita semua dituntut untuk bekerja sama . Tidak ada sektor yang dapat mengatasi tantangan mengarahkan inovasi digital dan tata kelola AI sendirian. Oleh karena itu, langkah-langkah pengamanan harus diterapkan. Semua pemangku kepentingan — mulai dari industri teknologi hingga legislator, dari perusahaan kreatif hingga akademisi, dari seniman hingga jurnalis dan pendidik — harus terlibat dalam membangun dan menerapkan kewarganegaraan digital yang terinformasi dan bertanggung jawab.
Pendidikan bertujuan untuk melakukan hal ini: Meningkatkan kemampuan pribadi kita untuk berpikir kritis; mengevaluasi apakah sumber informasi kita dapat dipercaya dan kemungkinan kepentingan di balik pemilihan informasi yang
Oleh karena itu, semakin mendesak untuk memperkenalkan literasi media, informasi, dan AI ke dalam sistem pendidikan di semua tingkatan, seperti yang telah dipromosikan oleh beberapa lembaga sipil. Sebagai umat Katolik, kita dapat dan harus berkontribusi pada upaya ini, agar individu — terutama kaum muda — dapat memperoleh keterampilan berpikir kritis dan tumbuh dalam kebebasan jiwa. Literasi ini juga harus diintegrasikan ke dalam inisiatif pembelajaran sepanjang hayat yang lebih luas, menjangkau orang dewasa yang lebih tua dan anggota masyarakat yang terpinggirkan, yang sering merasa tersisih dan tidak berdaya dalam menghadapi perubahan teknologi yang cepat.
Literasi media, informasi, dan AI akan membantu individu menghindari kecenderungan antropomorfisasi sistem AI, dan memungkinkan mereka untuk memperlakukan sistem ini sebagai alat dan selalu menggunakan validasi eksternal terhadap sumber yang disediakan oleh sistem AI — yang mungkin tidak akurat atau salah. Literasi juga akan memungkinkan privasi dan perlindungan data yang lebih baik melalui peningkatan kesadaran akan parameter keamanan dan opsi pengaduan. Penting untuk mendidik diri sendiri dan orang lain tentang cara menggunakan AI secara sengaja, dan dalam konteks ini untuk melindungi citra kita (foto dan audio), wajah dan suara kita, untuk mencegahnya digunakan dalam pembuatan konten dan perilaku berbahaya seperti penipuan digital, perundungan siber, dan deepfake, yang melanggar privasi dan keintiman orang tanpa persetujuan mereka. Sama seperti revolusi industri yang membutuhkan literasi dasar untuk memungkinkan orang merespons perkembangan baru, demikian pula revolusi digital membutuhkan literasi digital (bersama dengan pendidikan humanistik dan budaya) untuk memahami bagaimana algoritma membentuk persepsi kita tentang realitas, bagaimana bias AI bekerja, mekanisme apa yang menentukan keberadaan konten tertentu di umpan kita, apa prinsip dan model ekonomi AI dan bagaimana hal itu mungkin berubah.
Kita membutuhkan wajah dan suara untuk berbicara mewakili orang lain lagi. Kita perlu menghargai anugerah komunikasi sebagai kebenaran terdalam kemanusiaan, yang seharusnya menjadi orientasi bagi semua inovasi teknologi.
Dalam menyampaikan refleksi ini, saya mengucapkan terima kasih kepada semua pihak yang bekerja menuju tujuan yang telah diuraikan di atas, dan saya dengan tulus memberkati semua pihak yang bekerja untuk kebaikan bersama melalui media.
Dari Vatikan, 24 Januari 2026, Peringatan Santo Fransiskus de Sales
LEO PP. XIV
____________________________________________________
[1] “Fakta bahwa manusia diciptakan menurut gambar Allah berarti bahwa sejak saat penciptaannya, manusia telah dikaruniai karakter yang agung […]. Allah adalah kasih dan sumber kasih: Sang Pembentuk kodrat kita telah menjadikan ini sebagai ciri khas kita juga, sehingga melalui kasih — cerminan kasih ilahi — manusia dapat mengenali dan mewujudkan martabat kodrat mereka dan kemiripan mereka dengan Pencipta mereka” (bdk. Santo Gregorius dari Nyssa, Tentang Penciptaan Manusia : PG 44, 137).
