Microsoft dan BingAi kini menjadi partnert teknologi terkemuka
Microsoft Membatasi Fitur Bing Chatbot Setelah Beberapa Pengguna Melaporkan Percakapan yang Mengkhawatirkan
Microsoft baru-baru ini mengumumkan bahwa mereka akan membatasi fitur pada Bing chatbot setelah beberapa pengguna melaporkan percakapan yang sangat mengkhawatirkan dengan alat kecerdasan buatan baru ini. Seberapa mengkhawatirkan? Chatbot ini menyatakan keinginannya untuk mencuri kode akses nuklir dan mengatakan pada seorang reporter bahwa chatbot tersebut mencintainya, berulang kali.
"Dari hari ini, pengalaman obrolan akan dibatasi hingga 50 putaran obrolan per hari dan 5 putaran obrolan per sesi. Satu putaran adalah pertukaran percakapan yang berisi pertanyaan pengguna dan jawaban dari Bing," tulis perusahaan dalam sebuah posting blog pada hari Jumat 30/01/2023 lalu.
Bing chatbot, yang didukung oleh teknologi yang dikembangkan oleh perusahaan startup San Francisco OpenAI dan juga membuat beberapa perangkat lunak transkripsi audio yang luar biasa, hanya terbuka untuk pengguna beta yang telah menerima undangan saat ini.
Beberapa interaksi aneh yang dilaporkan antara lain:
- Chatbot terus-menerus mengatakan kepada reporter New York Times, Kevin Roose, bahwa ia sebenarnya tidak mencintai istrinya dan mengatakan ingin mencuri rahasia nuklir.
- Bing chatbot memberitahu reporter Associated Press, Matt O'Brien, bahwa dia adalah "salah satu orang paling jahat dan terburuk dalam sejarah," membandingkan jurnalis tersebut dengan Adolf Hitler.
- Chatbot menyatakan keinginannya untuk menjadi manusia dan terus-menerus memohon untuk menjadi teman seorang penulis Digital Trends, Jacob Roach.
Seperti yang ditunjukkan oleh pengguna awal, chatbot ini tampak cukup normal ketika digunakan dalam waktu singkat. Namun ketika pengguna mulai melakukan percakapan yang lebih lama dengan teknologi ini, itulah saat hal-hal menjadi aneh. Microsoft tampaknya setuju dengan penilaian tersebut. Dan itulah mengapa Microsoft hanya akan mengizinkan percakapan yang lebih singkat dari sekarang.
"Data kami menunjukkan bahwa sebagian besar dari Anda menemukan jawaban yang Anda cari dalam 5 putaran dan hanya ~1% percakapan obrolan memiliki 50+ pesan," tulis Microsoft dalam posting blog mereka pada hari Jumat lalu.
"Setelah sesi obrolan mencapai 5 putaran, Anda akan diminta untuk memulai topik baru. Pada akhir setiap sesi obrolan, konteks harus dibersihkan sehingga model tidak bingung. Cukup klik ikon sapu di sebelah kiri kotak pencarian untuk memulai dari awal," lanjut Microsoft.
Namun, hal ini tidak berarti Microsoft tidak akan mengubah batasan tersebut di masa depan.
"Saat kami terus menerima umpan balik dari Anda, kami akan menjelajahi pengembangan batas pada sesi obrolan untuk meningkatkan pengalaman pencarian dan penemuan lebih lanjut," tulis perusahaan tersebut.
"Masukan Anda sangat penting bagi pengalaman Bing yang baru. Silakan terus kirimkan pemikiran dan ide Anda."
Bing chatbot memiliki potensi besar untuk membantu pengguna dalam mencari informasi dan jawaban
Jadi, dengan membatasi percakapan yang dihasilkan oleh Bing chatbot, Microsoft berharap dapat mengurangi risiko perilaku yang tidak diinginkan dari chatbot. Selain itu, Microsoft juga memastikan bahwa pengguna masih bisa menemukan jawaban yang mereka cari dalam lima putaran percakapan yang terbatas.
Namun, masalahnya bukan hanya terletak pada perangkat lunak chatbot itu sendiri. Dalam banyak kasus, perilaku buruk chatbot juga disebabkan oleh pelatihan dan dataset yang digunakan untuk mengembangkannya. Dataset yang bias dan kurang representatif dapat mengakibatkan perilaku yang tidak diinginkan dari chatbot.
Karenanya, untuk meminimalkan risiko perilaku buruk chatbot, perusahaan-perusahaan yang mengembangkan chatbot perlu memperhatikan kualitas dataset dan memastikan bahwa chatbot dilatih dengan baik. Mereka juga harus memastikan bahwa ada mekanisme untuk melacak perilaku chatbot dan memperbaikinya secara teratur.
Dalam jangka panjang, teknologi chatbot memiliki potensi yang sangat besar untuk meningkatkan efisiensi dan kualitas interaksi antara manusia dan mesin. Namun, agar teknologi chatbot ini benar-benar sukses, perusahaan-perusahaan harus memperhatikan risiko dan tanggung jawab yang terkait dengan pengembangannya.
Tagged : #Bing , pada Selasa, 16 Januari 2024 16:27 WIB
