Teknologi AI: Canggih Namun Berisiko, Perlu Etika!

Table of Contents

AdinJava- Di tengah kemajuan pesat teknologi kecerdasan buatan atau Artificial Intelligence (AI), banyak orang terkesan dengan kecepatannya. Namun di balik semua itu, muncul pertanyaan penting, apakah kita sudah siap memberikan sebagian kendali kepada mesin?

Dan yang lebih penting, apakah kita mampu menciptakan AI yang tidak hanya cerdas, tetapi juga memahami kapan harus berhenti berbicara?

Pertanyaan ini mulai menarik perhatian karena banyak sistem kecerdasan buatan yang saat ini dirancang untuk menjawab berbagai hal, meskipun mereka belum sepenuhnya memahami konteksnya. Akibatnya? Bahaya memberikan jawaban yang salah, bias, bahkan penyebaran informasi yang tidak akurat bisa terjadi tanpa disadari.

Salah satu pendekatan yang mulai muncul adalah mengembangkan AI yang mampu 'berpikir', yang berarti memberikan batasan kepada AI, bukan hanya secara teknis, tetapi juga dalam hal tanggung jawab.

Sebagai contoh, ketika AI tidak yakin dengan jawabannya, ia dapat berhenti dan menyerahkan tugas kepada manusia. Pendekatan semacam ini mulai diuji oleh beberapa perusahaan, salah satunya adalah SleekFlow melalui sistem yang mereka namakan AgentFlow yang mengutamakan layanan pelanggan.

"Kesalahan dalam layanan pelanggan tidak selalu berhubungan dengan teknologi, tetapi lebih pada hubungan antar manusia. Oleh karena itu, AgentFlow dirancang untuk membantu, bukan menggantikan manusia sepenuhnya," kata Asnawi Jufrie, VP & GM SleekFlow Asia Tenggara melalui pernyataannya.

Namun, kita perlu melihat hal ini bukan dari sudut pandang merek, tetapi dari arah perubahan tren, yaitu AI yang lebih etis dan memahami batasan, bukan hanya AI yang cepat dan cerdas.

Konsumen mulai lebih realistis. Dulu masyarakat memandang AI sebagai solusi untuk segala masalah, kini pandangan mereka mulai berubah.

Berdasarkan penelitian yang beredar, termasuk yang dilakukan oleh SleekFlow, ternyata sebagian besar konsumen, khususnya di Indonesia, merasa lebih nyaman berkomunikasi dengan manusia ketika menghadapi masalah yang bersifat sensitif, rumit, atau emosional.

Ini menjadi tanda penting bahwa kecepatan dan otomasi saja tidak cukup. Kita memerlukan AI yang memahami perannya, serta mengetahui kapan harus berhenti.

Yang perlu dipahami juga, kita tidak bisa mengabaikan fakta bahwa AI yang terlalu percaya diri dapat menimbulkan risiko. Bukan hanya terkait jawaban yang salah atau bias, tetapi juga berpotensi menciptakan kepercayaan yang tidak sebenarnya di kalangan pengguna.

Di beberapa situasi, AI mampu menghasilkan data yang terdengar meyakinkan namun pada kenyataannya salah, di bidang teknis, hal ini dikenal sebagai istilah AI hallucination.

Oleh karena itu, fitur seperti sistem pemeriksa jawaban, deteksi ketidakpastian (knowledge gap detection), dan pengalihan ke manusia seharusnya menjadi standar etika baru dalam pengembangan sistem AI, bukan hanya tambahan biasa.

Namun, hingga saat ini, sebagian besar negara—termasuk Indonesia—masih belum memiliki kerangka regulasi yang jelas bahkan matang mengenai pemanfaatan AI.

Benar. Menurut laporan dari Boston Consulting Group, lebih dari 70 persen negara masih belum memiliki kesiapan struktural terkait kebijakan, kompetensi sumber daya manusia, maupun investasi jangka panjang terkait AI.

Oleh karena itu, tanpa memperhatikan keinginan mereka, tanggung jawab etika berada di tangan pelaku bisnis dan pengembang sistem. Mereka perlu mengambil inisiatif untuk menciptakan sistem yang jelas, terbatas, serta tetap diawasi oleh manusia.

Bukan karena diperintahkan, tetapi karena itulah cara yang paling logis untuk menjaga kepercayaan pengguna.

Perlu ditekankan pula, AI memang mampu membantu berbagai hal, mulai dari penjualan, layanan pelanggan, hingga logistik. Namun bukan berarti seluruhnya harus diserahkan kepada AI.

Laporan SleekFlow menyampaikan bahwa pendekatan kolaboratif, di mana AI dan manusia saling mendukung, saat ini dinilai paling logis. Dalam kondisi yang belum ada aturan pasti, pendekatan semacam ini dapat menjadi langkah awal menuju masa depan teknologi yang lebih aman, humanis, dan dapat diandalkan.