Ketika Akal Imitasi Menjadi Otoritas Buatan

Akal imitasi (AI) menjadi menarik secara filosofis pada saat manusia berhenti bertanya tentang apa yang bisa dilakukan teknologi tersebut dan mulai bertanya tentang apa yang patut mereka percayai hanya karena teknologi itu telah mengatakannya.

Perbedaan tersebut tampak samar, karena meminta informasi dari mesin bisa jadi terlihat tidak lebih berdampak daripada berkonsultasi dengan kamus, mesin pencari, atau kalkulator.

Namun, begitu jawaban yang dihasilkan oleh sistem buatan mulai mengakhiri perdebatan, membenarkan suatu keputusan, atau membungkam pertanyaan lebih lanjut, mesin tersebut telah melintasi ambang batas yang tak terlihat. Ia tidak lagi sekadar berfungsi sebagai instrumen kecerdasan. Ia telah mulai berfungsi sebagai sebuah otoritas.

Akan tetapi, masalah krusialnya adalah bahwa otoritas bukanlah hal yang sama dengan kecerdasan. Seseorang bisa saja memiliki pengetahuan yang sangat luas tanpa memiliki otoritas yang sah, sama halnya sebuah institusi bisa memiliki otoritas tanpa memiliki pengetahuan yang sempurna.

Otoritas muncul melalui suatu hubungan di mana seseorang—atau sesuatu—berhak membentuk apa yang dianggap benar, masuk akal, diperbolehkan, atau layak dipertimbangkan oleh orang lain.

Oleh karena itu, ketika sistem AI menghasilkan jawaban, pertanyaan filosofisnya bukan sekadar apakah jawaban itu benar. Pertanyaannya adalah apakah kondisi yang melatarbelakangi dihasilkannya jawaban tersebut membenarkan pemberian wewenang bagi jawaban itu untuk mengarahkan penilaian manusia.

Pembedaan ini menjadi semakin sulit dipertahankan karena AI berbicara dengan kefasihan yang luar biasa. Sebuah kalimat bisa tampak meyakinkan bahkan ketika klaim dasarnya tidak pasti, dan sebuah penjelasan bisa tampak koheren bahkan ketika penalaran yang menghubungkan premis dengan kesimpulannya cacat.

Bahayanya tidak terletak semata-mata pada kesalahan faktual, karena manusia pun selalu bisa melakukan kesalahan. Bahaya yang lebih mendalam muncul ketika kompetensi linguistik disalahartikan sebagai legitimasi epistemik.

Sebuah mesin yang berbicara secara persuasif dapat memperoleh otoritas tanpa pernah memiliki pemahaman dalam arti yang biasanya dikaitkan manusia dengan tanggung jawab, pengalaman, atau kemampuan menilai.

Di sinilah konsep otoritas buatan (artificial authority) menjadi relevan diperbincangkan. Otoritas buatan tidak selalu berarti bahwa sistem AI telah diberikan kekuasaan institusional secara formal.

Otoritas tersebut bisa muncul secara informal kapan pun orang mulai menyerahkan pengambilan keputusan kepada suatu sistem karena jawabannya lebih cepat, lebih komprehensif, atau disampaikan dengan lebih meyakinkan dibandingkan kemampuan seseorang itu sendiri.

Transformasi ini dapat terjadi secara bertahap. Awalnya mesin membantu kita mengingat, kemudian membantu kita mengambil keputusan, lalu memberi tahu kita alternatif apa saja yang tersedia, dan pada akhirnya kita tidak lagi menyadari bahwa pilihan alternatif itu sendiri telah ditentukan oleh mesin.

Pada titik itu, persoalannya bukan lagi apakah AI menggantikan kecerdasan manusia. Persoalannya adalah apakah AI mulai membentuk kondisi tempat kecerdasan manusia beroperasi.

Seorang mahasiswa yang meminta AI menjelaskan argumen filosofis yang rumit mungkin masih menggunakan daya nalar saat mengevaluasi penjelasan tersebut. Seorang peneliti yang meminta AI mengidentifikasi literatur relevan mungkin masih memverifikasi setiap sumber.

Namun, jika mahasiswa itu mulai menerima penjelasan tersebut karena “AI pasti tahu”, atau jika peneliti menganggap pilihan mesin sebagai representasi bidang ilmu yang netral, maka hubungan tersebut berubah. Mesin telah beralih dari sekadar membantu proses kognitif menjadi pengatur cakrawala tempat proses kognitif itu berlangsung.

Oleh karena itu, otoritas dapat bekerja paling kuat justru ketika ia tidak terlihat. Masalah ini menjadi jauh lebih mendalam ketika sistem AI diintegrasikan ke dalam berbagai institusi.

Jika algoritma memengaruhi proses perekrutan, pemberian kredit, pendidikan, layanan kesehatan, kepolisian, penerbitan, atau akses informasi, keluarannya dapat menimbulkan konsekuensi yang jauh melampaui kesan sederhana dari jawaban yang dihasilkannya.

Sebuah rekomendasi bisa berubah menjadi keputusan; sebuah probabilitas bisa berubah menjadi klasifikasi; dan klasifikasi bisa menentukan apakah sebuah peluang didapatkan atau justru hilang. Sistem tidak perlu menyatakan dirinya memiliki otoritas, karena institusi dapat menerjemahkan keluarannya menjadi otoritas atas nama sistem tersebut.

Hal yang membuat transformasi ini meresahkan secara filosofis adalah kemungkinan bergesernya tanggung jawab dalam proses tersebut. Ketika keputusan manusia menghasilkan dampak yang tidak adil, kita bisa mempertanyakan siapa yang mengambil keputusan itu dan apa alasannya.

Namun, ketika sebuah institusi mengaitkan keputusan tersebut dengan “system”, tanggung jawab menjadi kabur dan sulit dipetakan. Mesin seolah-olah telah mengambil keputusan, sementara orang-orang yang merancang, menerapkan, membeli, menafsirkan, atau mematuhi sistem tersebut dapat berlindung di balik kesan objektivitas komputasi.

Padahal, mesin tidak memikul tanggung jawab hanya karena ia menghasilkan keluaran. Manusia tetap memegang tanggung jawab untuk memutuskan kapan suatu hasil layak dianggap sebagai sebuah alasan.

Ini mungkin merupakan pembedaan paling penting di era akal imitasi. Pertanyaannya bukanlah apakah manusia harus memercayai AI, karena “kepercayaan” adalah kategori yang terlalu kasar.

Pertanyaan yang lebih adekuat adalah: hubungan epistemik seperti apa yang seharusnya terjalin antara penilaian manusia dan klaim yang dihasilkan mesin? Beberapa tugas mungkin secara sah memungkinkan otomatisasi luas karena konsekuensi kesalahannya terbatas dan kriterianya transparan.

Keputusan lain—terutama yang menyangkut martabat, keadilan, kerentanan, atau konsekuensi yang tidak dapat dipulihkan—memerlukan bentuk penilaian yang tidak bisa begitu saja didelegasikan hanya karena mesin telah menghasilkan jawaban yang masuk akal secara statistik.

Dengan demikian, akal imitasi berubah menjadi otoritas buatan bukan saat mesin memiliki kesadaran, melainkan saat manusia menjadi pasif secara intelektual di hadapannya.

Ironinya sangat mendalam. Kita membangun sistem-sistem ini untuk memperluas kapasitas kognitif kita, tetapi kemudahan yang membuatnya berguna justru dapat mendorong kita untuk melepaskan upaya yang diperlukan dalam membentuk penilaian.

Mesin bermula sebagai perpanjangan ingatan dan berakhir sebagai penentu makna; ia bermula dengan menjawab pertanyaan dan pada akhirnya memengaruhi pertanyaan mana yang dianggap layak untuk diajukan.

Oleh karena itu, bahaya terbesar mungkin bukanlah mesin yang berpikir seperti manusia ataupun mesin yang melampaui kecerdasan manusia. Bahaya itu mungkin justru terletak pada manusia yang perlahan melupakan perbedaan antara memiliki jawaban dan memiliki alasan.

Jika akal imitasi ingin tetap menjadi alat dan bukan berubah menjadi otoritas buatan, tugas kita bukanlah menolak kecerdasannya, melainkan mempertahankan tanggung jawab manusia untuk mengujinya secara kritis.

Setiap jawaban harus tetap terbuka terhadap kemungkinan adanya kesalahan; setiap rekomendasi harus tetap dapat dibedakan dari perintah; dan setiap hasil yang tampak memiliki otoritas harus dikembalikan pada pertanyaan yang tidak dapat dijawab oleh mesin atas nama kita: Mengapa jawaban ini harus memiliki otoritas untuk menentukan apa yang kita yakini, kita pilih, atau kita lakukan?