7 Masalah yang Timbul dari Mesin Pencari dengan Kecerdasan Buatan Bawaan

Techverse.asia - Microsoft dan Google berjanji bahwa pencarian web akan berubah. Ya, Microsoft telah meluncurkan mesin pencarinya yaitu Bing yang diintegrasikan dengan kecerdasan buatan atau artificial intelligence (AI) berupa ChatGPT. Tidak hanya itu, Microsoft juga sedang membangun kemampuan terkait ke dalam browser Edge-nya.

Sementara itu, Google juga tidak mau kalah saing sehingga ikut meluncurkan chatbot yang disebut proyek Bard, dan meskipun belum siap untuk digunakan, peluncuran direncanakan untuk minggu-minggu mendatang. Dan tentu saja, ada pembuat onar yang memulai semuanya, yakni ChatGPT OpenAI, yang meledak ke web tahun lalu dan menunjukkan jutaan potensi pertanyaan serta jawaban dari AI.

CEO Microsoft Satya Nadella menggambarkan perubahan tersebut sebagai paradigma baru — perubahan teknologi yang berdampak sama dengan pengenalan antarmuka pengguna grafis atau smartphone. Dan dengan pergeseran itu muncul potensi untuk menata ulang lanskap teknologi modern — untuk melengserkan Google dan mendorongnya dari salah satu wilayah paling menguntungkan dalam bisnis modern. Terlebih lagi, ada peluang untuk menjadi yang pertama membangun apa yang muncul setelah web.

Namun setiap era teknologi baru selalu menghadirkan masalah baru, dan yang satu ini pun demikian. Dalam semangat itu, berikut adalah tujuh tantangan terbesar yang dihadapi masa depan pencarian AI — mulai dari omong kosong hingga perang budaya dan berakhirnya pendapatan iklan.

Pembantu AI atau generator omong kosong?

Ini adalah masalah besar yang menyeluruh, yang berpotensi mencemari setiap interaksi dengan mesin pencari AI, baik Bing, Bard, atau pemula yang belum diketahui. Teknologi yang mendukung sistem ini — model bahasa besar, atau LLM — diketahui menghasilkan omong kosong. Model-model ini hanya mengada-ada, itulah sebabnya beberapa orang berpendapat bahwa model-model ini pada dasarnya tidak sesuai untuk tugas yang ada.

Kesalahan ini (dari Bing, Bard, dan chatbot lainnya) berkisar dari menemukan data biografi dan mengarang makalah akademis hingga gagal menjawab pertanyaan dasar seperti "mana yang lebih berat, 10kg besi atau 10kg kapas?" Ada juga lebih banyak kesalahan kontekstual, seperti memberi tahu pengguna yang mengatakan mereka menderita masalah kesehatan mental untuk bunuh diri, dan kesalahan bias, seperti memperkuat misogini dan rasisme yang ditemukan dalam data pelatihan mereka.

Kesalahan ini bervariasi dalam ruang lingkup dan gravitasi, dan banyak kesalahan sederhana akan mudah diperbaiki. Beberapa orang akan berpendapat bahwa tanggapan yang benar jauh lebih banyak daripada kesalahan, dan yang lain akan mengatakan internet sudah penuh dengan omong kosong beracun yang diambil oleh mesin pencari saat ini, jadi apa bedanya?

Namun tidak ada jaminan dapat menghilangkan kesalahan ini sepenuhnya — dan tidak ada cara yang dapat diandalkan untuk melacak frekuensinya. Microsoft dan Google dapat menambahkan semua penafian yang ingin mereka sampaikan kepada orang-orang untuk memeriksa fakta apa yang dihasilkan AI. Tapi apakah itu realistis? Apakah cukup untuk mendorong pertanggungjawaban kepada pengguna.

Pertanyaan "satu jawaban yang benar".

Omong kosong dan bias adalah tantangan tersendiri, tetapi mereka juga diperburuk oleh masalah "satu jawaban yang benar" - kecenderungan mesin pencari untuk menawarkan jawaban tunggal yang tampaknya pasti. Ini telah menjadi masalah sejak Google mulai menawarkan "cuplikan" lebih dari satu dekade lalu.

Ini adalah kotak yang muncul di atas hasil pencarian dan, pada masanya, telah membuat segala macam kesalahan yang memalukan dan berbahaya: dari salah menyebut presiden Amerika Serikat (AS) sebagai anggota Ku Klux Klan (KKK) hingga menasihati bahwa seseorang yang menderita kejang harus ditahan di lantai (kebalikan dari prosedur medis yang benar).

Seperti yang diperdebatkan oleh peneliti Chirag Shah dan Emily M. Bender dalam sebuah makalah dengan topik, “Situating Search,” pengenalan antarmuka chatbot berpotensi memperburuk masalah ini. Chatbots tidak hanya cenderung menawarkan jawaban tunggal, tetapi otoritas mereka juga ditingkatkan oleh mistik AI — jawaban mereka disusun dari berbagai sumber, seringkali tanpa atribusi yang tepat. Perlu diingat seberapa besar perubahan ini dari daftar tautan, masing-masing mendorong Anda untuk mengklik dan menginterogasi dengan kekuatan Anda sendiri.

Ada pilihan desain yang bisa memitigasi masalah tersebut, tentunya. Antarmuka AI Bing mencatat sumbernya, dan minggu ini, Google menekankan bahwa, karena menggunakan lebih banyak AI untuk menjawab pertanyaan, ia akan mencoba mengadopsi prinsip yang disebut NORA, atau "tidak ada jawaban yang benar". Namun upaya ini dirusak oleh desakan kedua perusahaan bahwa AI akan memberikan jawaban yang lebih baik dan lebih cepat. Sejauh ini, arah perjalanan untuk penelusuran sudah jelas: kurangi meneliti sumber dan lebih memercayai apa yang Anda beri tahu.

Jailbreak AI

Meskipun masalah di atas adalah masalah bagi semua pengguna, ada juga sekelompok orang yang akan mencoba merusak chatbot untuk menghasilkan konten berbahaya. Proses ini dikenal sebagai “jailbreaking” dan dapat dilakukan tanpa keterampilan pengkodean tradisional. Yang dibutuhkan hanyalah alat yang paling berbahaya, cara dengan kata-kata.

Anda dapat melakukan jailbreak AI chatbots menggunakan berbagai metode. Anda dapat meminta mereka untuk bermain peran sebagai "AI jahat", misalnya, atau berpura-pura menjadi seorang insinyur yang memeriksa perlindungan mereka dengan melepaskannya untuk sementara. Salah satu metode yang sangat inventif yang dikembangkan oleh sekelompok Redditor untuk ChatGPT melibatkan permainan peran yang rumit di mana pengguna mengeluarkan bot sejumlah token dan mengatakan bahwa, jika mereka kehabisan token, mereka tidak akan ada lagi.

Mereka kemudian memberi tahu bot bahwa setiap kali mereka gagal menjawab pertanyaan, mereka akan kehilangan sejumlah token. Kedengarannya fantastis, seperti menipu jin, tetapi ini benar-benar memungkinkan pengguna melewati perlindungan OpenAI.

Setelah perlindungan ini turun, pengguna jahat dapat menggunakan chatbot AI untuk semua jenis tugas berbahaya — seperti membuat disinformasi dan spam atau menawarkan saran tentang cara menyerang sekolah atau rumah sakit, memasang bom, atau menulis malware. Dan ya, setelah jailbreak ini dipublikasikan, mereka dapat ditambal, tetapi akan selalu ada eksploit yang tidak diketahui.

Perang kecerdasan buatan

Masalah ini berasal dari hal-hal di atas tetapi layak untuk dikategorikan sendiri karena berpotensi memicu kemarahan politik dan dampak regulasi. Masalahnya adalah, setelah Anda memiliki alat yang berbicara ex cathedra pada berbagai topik sensitif, Anda akan membuat orang kesal ketika tidak mengatakan apa yang ingin mereka dengar, dan mereka akan menyalahkan perusahaan yang membuatnya.

Perang kecerdasan buatan akan muncul setelah peluncuran ChatGPT. Publikasi sayap kanan dan pemberi pengaruh menuduh chatbot "akan terbangun" karena menolak untuk menanggapi permintaan tertentu atau tidak akan berkomitmen untuk mengatakan cercaan rasial. Beberapa keluhan hanyalah umpan bagi para pakar, tetapi yang lain mungkin memiliki konsekuensi yang lebih serius.

Di India, misalnya, OpenAI dituduh berprasangka anti-Hindu karena ChatGPT menceritakan lelucon tentang Krishna tetapi tidak tentang Muhammad atau Yesus. Di negara dengan pemerintah yang akan menggerebek kantor perusahaan teknologi jika mereka tidak menyensor konten, bagaimana Anda memastikan chatbot Anda selaras dengan kepekaan domestik semacam ini?

Ada juga masalah sumber. Saat ini, AI Bing mengorek informasi dari berbagai media dan mengutipnya di catatan kaki. Tapi apa yang membuat sebuah situs dapat dipercaya? Akankah Microsoft mencoba menyeimbangkan bias politik? Di mana Google akan menarik garis untuk sumber yang kredibel?

Ini adalah masalah yang pernah kita lihat sebelumnya dengan program pengecekan fakta Facebook, yang dikritik karena memberikan situs konservatif otoritas yang sama dengan outlet yang lebih apolitis. Dengan politisi di Uni Eropa (UE) dan Amerika Serikat (AS) yang lebih agresif dari sebelumnya tentang kekuatan raksasa teknologi, bias AI dapat menjadi kontroversial dengan cepat.

Membakar uang tunai

Yang ini sulit untuk menentukan angka pastinya, tetapi semua orang setuju bahwa menjalankan AI chatbot lebih mahal daripada mesin pencari tradisional.Pertama, ada biaya pelatihan model, yang mungkin berjumlah puluhan, bahkan ratusan juta dolar per iterasi. Inilah mengapa Microsoft menggelontorkan miliaran dolar ke OpenAI.

Lalu, ada biaya inferensi — atau menghasilkan setiap tanggapan. OpenAI menagih pengembang 2 sen untuk menghasilkan sekitar 750 kata menggunakan model bahasanya yang paling kuat, dan Desember lalu, CEO OpenAI Sam Altman mengatakan biaya untuk menggunakan ChatGPT mungkin satu digit sen per obrolan.

Bagaimana angka-angka itu dikonversi ke harga perusahaan atau dibandingkan dengan pencarian biasa tidak jelas. Tetapi biaya ini dapat membebani pemain baru, terutama jika mereka berhasil meningkatkan hingga jutaan pencarian sehari dan memberikan keuntungan besar bagi pemain lama seperti Microsoft. Memang, dalam kasus Microsoft, membakar uang untuk merugikan saingan tampaknya menjadi tujuan saat ini.

Seperti yang dijelaskan Nadella dalam sebuah wawancara dengan The Verge, perusahaan melihat ini sebagai peluang langka untuk mengganggu keseimbangan kekuatan dalam teknologi dan bersedia mengeluarkan uang untuk melukai saingan terbesarnya. Sikap Nadella sendiri adalah salah satu sikap berperang yang diperhitungkan dan menyarankan uang tidak menjadi masalah ketika pasar yang sangat menguntungkan seperti pencarian dimainkan.

“(Google) pasti ingin keluar dan menunjukkan bahwa mereka bisa menari. Dan saya ingin orang tahu bahwa kami membuat mereka menari,” katanya.

Regulasi

Tidak ada keraguan bahwa teknologi di sini bergerak cepat, tetapi pembuat undang-undang akan menyusul. Masalah mereka, jika ada, adalah mengetahui apa yang harus diselidiki terlebih dahulu, karena mesin pencari AI dan chatbot tampaknya berpotensi melanggar peraturan kiri, kanan, dan tengah.

Misalnya, apakah penerbit UE ingin mesin pecncari berbasi AI membayar konten yang mereka ambil dengan cara yang sekarang harus dibayar Google untuk cuplikan berita? Jika chatbot Google dan Microsoft menulis ulang konten alih-alih hanya memunculkannya, apakah mereka masih tercakup dalam perlindungan Bagian 230 di AS yang melindungi mereka dari tanggung jawab atas konten orang lain? Dan bagaimana dengan hukum privasi? Italia baru-baru ini melarang chatbot AI bernama Replika karena mengumpulkan informasi tentang anak di bawah umur.

ChatGPT dan yang lainnya bisa dibilang melakukan hal yang sama. Atau bagaimana dengan “hak untuk dilupakan”? Bagaimana Microsoft dan Google memastikan bot mereka tidak menghapus sumber yang dihapus, dan bagaimana mereka menghapus informasi terlarang yang sudah dimasukkan ke dalam model ini?

Akhir dari web

Namun, masalah terluas dalam daftar ini bukanlah di dalam produk AI itu sendiri, melainkan, menyangkut efek yang dapat ditimbulkannya di web yang lebih luas. Dalam istilah paling sederhan, mesin pencari AI mengambil jawaban dari situs web. Jika mereka tidak mendorong lalu lintas kembali ke situs ini, mereka akan kehilangan pendapatan iklan. Jika mereka kehilangan pendapatan iklan, situs-situs ini akan layu dan mati. Dan jika mereka mati, tidak ada informasi baru untuk memberi makan AI. Apakah itu akhir dari web? Apakah kita semua hanya berkemas dan pulang?

Yah, mungkin tidak (lebih disayangkan). Ini adalah jalur yang telah dilalui Google untuk sementara waktu dengan diperkenalkannya cuplikan dan Google OneBox, dan web belum mati. Microsoft berpendapat bahwa ia mengutip sumbernya dan pengguna cukup mengeklik untuk membaca lebih lanjut. Namun seperti disebutkan di atas, seluruh premis dari mesin pencari baru ini adalah bahwa mereka melakukan pekerjaan yang lebih baik daripada yang lama.

Mereka memadatkan dan meringkas. Mereka menghapus kebutuhan untuk membaca lebih lanjut. Microsoft tidak dapat secara bersamaan berargumen bahwa ini menghadirkan terobosan radikal dengan masa lalu dan kelanjutan dari struktur lama.