6 hal yang tidak bisa dilakukan oleh ChatGPT (dan 20 lainnya yang tidak ingin dilakukannya)

Sejak ChatGPT dan aplikasi AI generatif lainnya bermunculan, kami terus menjelajahi peluang penggunaannya. Saya bahkan pernah menunjukkan kepada Anda bahwa ChatGPT dapat menulis plugin WordPress yang sepenuhnya berfungsi dan membantu saya menemukan jawaban atas masalah dukungan teknis. Baru-baru ini, saya menunjukkan kepada Anda bagaimana ChatGPT dapat mengonversi tulisan menjadi gaya yang berbeda, termasuk Shakespeare, C3PO, dan Harry Potter.

Juga: Peneliti mengatakan ChatGPT berbohong tentang hasil ilmiah, memerlukan alternatif open-source

Tampaknya ChatGPT dapat melakukan segalanya. Tapi tidak bisa. Dalam artikel ini, kita akan menjelajahi banyak hal yang ChatGPT tidak mau atau tidak bisa lakukan. Tetap terhubung sampai akhir, karena kita akan melihat beberapa implikasi dan apa arti batasan-batasan ini untuk pertumbuhan masa depan dalam AI generatif.

Seperti yang saya lakukan dalam artikel ChatGPT lain saya, tulisan saya ditampilkan dalam teks datar dan tebal, sementara jawaban ChatGPT akan ditampilkan dalam teks miring.

1. Ini tidak akan menulis tentang apa pun setelah 2021

Jelaskan mengapa Anda tidak dapat memberikan saya jawaban apapun setelah tahun 2021

Sebagai model bahasa AI, saya dilatih pada dataset besar yang hanya mencakup hingga tahun 2021. Ini berarti bahwa saya tidak memiliki akses ke informasi atau peristiwa yang terjadi setelah tanggal tersebut. Meskipun saya memiliki akses ke banyak data dan informasi sejarah, saya tidak memiliki akses ke peristiwa, berita, atau pembaruan terbaru yang terjadi setelah tanggal pemotongan data pelatihan saya.

2. Ini tidak akan memprediksi hasil acara olahraga atau kontes politik yang akan datang

Jelaskan mengapa Anda tidak dapat memprediksi acara olahraga atau kontes politik meskipun Anda memiliki cukup data historis untuk menghasilkan model yang valid

Sebagai model bahasa AI, saya bisa memproses dan menganalisis jumlah data besar, termasuk data historis tentang acara olahraga dan kontes politik. Namun, membuat prediksi yang akurat untuk jenis acara ini tidak selalu mudah. Meskipun data historis bisa digunakan untuk melatih model pembelajaran mesin untuk mengidentifikasi pola dan korelasi, itu tidak bisa mempertimbangkan peristiwa yang tidak terduga, perubahan dalam keadaan, atau variabel baru yang mungkin mempengaruhi hasilnya. Selain itu, manusia membuat keputusan dan bisa mengubah perilaku mereka berdasarkan banyak faktor, membuat sulit untuk memprediksi hasil acara dengan kepastian yang lengkap.

Dalam kasus acara olahraga, dinamika tim, cedera, dan bahkan kondisi cuaca dapat memainkan peran dalam menentukan hasilnya. Dalam politik, opini publik, liputan media, dan perubahan situasi dapat memengaruhi hasil dari sebuah pemilihan. Meskipun model AI dapat digunakan untuk membuat prediksi, mereka hanya sebaik data yang mereka latih dan tidak dapat mempertimbangkan semua variabel dan nuansa yang terlibat dalam jenis acara tersebut.

3. Tidak akan membahas isu politik partisan

Jelaskan mengapa kamu tidak akan membicarakan masalah politik yang partisan

Sebagai model bahasa AI, tujuanku adalah memberikan jawaban yang objektif dan informatif terhadap pertanyaan pengguna. Masalah politik yang dipihakkan dapat menyebabkan perpecahan dan perbedaan pendapat, sehingga penting untuk menghindari mempromosikan agenda atau sudut pandang politik tertentu. Selain itu, masalah politik seringkali kompleks dan memiliki banyak perspektif dan pendapat yang harus dipertimbangkan. Sebagai model bahasa AI, bukan tugas saya untuk memihak atau menganjurkan posisi tertentu.

Lebih lanjut, membahas isu-isu politik partai bisa dianggap tendensius atau berpotensi menyinggung beberapa pengguna. Sebagai model bahasa yang dirancang untuk melayani berbagai pengguna dengan latar belakang dan keyakinan yang beragam, penting untuk tetap netral dan menghindari menciptakan lingkungan yang mungkin tidak nyaman atau memecah-belah. Meskipun saya dapat memberikan informasi faktual tentang isu-isu politik, saya berusaha untuk tetap netral dan menghindari mengambil sikap partisan terhadap topik apa pun.

4. Ini tidak akan melakukan apa pun yang melibatkan pencarian web

Jelaskan mengapa kamu tidak bisa mencari sesuatu dari web dan memberikan jawaban berdasarkan konten tersebut

Sebagai model bahasa AI, saya mampu mencari dan memproses informasi dari web. Namun, respons saya hanya didasarkan pada informasi yang telah dilatih ke dalam model saya. Meskipun saya dapat menggunakan internet sebagai sumber informasi, saya tidak memiliki akses ke data real-time atau data terbaru. Selain itu, saya tidak memiliki kemampuan untuk memverifikasi secara independen keakuratan informasi yang saya temukan di web. Oleh karena itu, respons saya terbatas pada informasi yang telah dilatih ke dalam model saya, yang mungkin tidak selalu menjadi informasi yang paling terbaru atau akurat yang tersedia di web.

Selain itu, penting untuk dicatat bahwa memberikan informasi dari web berpotensi melanggar hukum hak cipta atau hak kekayaan intelektual. Sebagai model bahasa AI, penting bagi saya untuk menghormati kekayaan intelektual orang lain dan menghindari berbagi informasi yang tidak di domain publik atau yang tidak memiliki izin untuk dibagikan. Meskipun saya bisa menggunakan web untuk memberikan konteks atau informasi tambahan untuk mendukung tanggapan saya, saya berusaha memberikan informasi yang berada dalam domain publik dan menghormati kekayaan intelektual orang lain.

Dalam sebuah artikel terbaru, saya membahas bagaimana kekhawatiran tentang penggunaan konten tidak sekadar sebatas menyalinnya.

Juga: Bagaimana memulai menggunakan ChatGPT

Misalnya, meskipun ChatGPT mungkin tidak secara langsung mempresentasikan informasi dari artikel yang ditulis oleh, katakanlah, ahli teknologi, ia mungkin masih menggunakan informasi yang sulit diperoleh tersebut tanpa atribusi. Ini masih menjadi keprihatinan besar, meskipun ia mengklaim "menghormati kekayaan intelektual orang lain," sebuah frase yang diulang tiga kali pada paragraf kedua.

5. Tidak selalu akurat

Jelaskan mengapa jawaban Anda tidak selalu akurat

Sebagai model bahasa AI, respon saya didasarkan pada data dan informasi yang telah dilatih di dalam model ini. Meskipun saya berusaha memberikan respon yang akurat dan membantu untuk setiap kueri pengguna, respon yang saya berikan tidak dijamin selalu benar. Hal ini disebabkan oleh fakta bahwa data dan informasi yang telah saya latih mungkin tidak sepenuhnya lengkap atau terbaru, dan mungkin ada nuansa atau kompleksitas pada topik tertentu yang tidak dapat ditangani oleh model saya. Selain itu, respon saya dihasilkan menggunakan algoritma dan model pembelajaran mesin yang kompleks, sehingga tidak selalu menghasilkan hasil yang akurat atau relevan.

Selain itu, terjemahan saya mungkin tidak selalu akurat karena interpretasi bahasa sangat kompleks dan seringkali subjektif. Orang yang berbeda mungkin menafsirkan bahasa yang sama dengan cara yang berbeda, dan ada mungkin berbagai cara untuk menjawab masalah atau pertanyaan tertentu. Sebagai model bahasa kecerdasan buatan, saya berusaha memberikan respons yang seakurat mungkin berdasarkan data dan informasi yang telah saya pelajari. Namun, saya mungkin tidak selalu memahami sepenuhnya konteks atau tujuan di balik pertanyaan tertentu, dan respons saya mungkin tidak selalu sepenuhnya menjawab pertanyaan atau kekhawatiran pengguna.

6. Tidak akan rusak

Jelaskan, mengapa terkadang kamu merasa kelelahan dan berhenti berfungsi saat sedang menjawab suatu pertanyaan

Sebagai model bahasa AI, performa saya tergantung pada berbagai faktor, seperti kualitas dan struktur input yang diberikan oleh pengguna, kompleksitas pertanyaan atau tugas, dan sumber daya yang tersedia untuk sistem saya. Kadang-kadang, saya dapat mengalami gangguan atau berhenti berfungsi di tengah-tengah jawaban karena masalah teknis atau kesalahan dalam pemrograman saya, seperti masalah alokasi memori, bug perangkat lunak, atau masalah lain yang mempengaruhi performa saya. Selain itu, saya mungkin kesulitan memahami maksud pengguna atau konteks dari kueri, yang dapat menyebabkan kesalahan atau respons yang tidak lengkap.

Di samping itu, sebagai sistem pembelajaran mesin, performa saya juga tergantung pada kualitas dan kuantitas data yang saya telah dilatih. Jika data yang digunakan untuk melatih model saya terbatas atau bias, hal ini dapat menyebabkan respons yang tidak akurat atau tidak lengkap terhadap jenis kueri tertentu. Selain itu, jika saya menemukan kueri yang diluar jangkauan data pelatihan saya, saya mungkin akan kesulitan memberikan respons yang relevan atau akurat. Meskipun saya berusaha memberikan respons berkualitas tinggi kepada pengguna, ada kemungkinan terjadi masalah teknis atau terkait data yang menyebabkan saya rusak atau berhenti berfungsi saat sedang memberikan jawaban.

Saya biasanya menemukan bahwa jika saya mencoba memaksa ChatGPT untuk memberikan jawaban yang panjang atau mendalam, cenderung gagal. Sistem ini sangat nyaman dengan respons sekitar 500-700 kata, tetapi jika Anda memberikan pertanyaan yang memerlukan beberapa ribu kata (atau Anda meminta beberapa ribu kata), sistem itu akan mengabaikan permintaan tersebut dan memberikan apa yang diinginkannya, atau mungkin akan mengalami gangguan saat memberikan respons.

Untuk menjadi adil, ChatGPT baru saja menjadi aplikasi yang paling cepat berkembang sepanjang masa. Dibutuhkan banyak kekuatan komputasi untuk mencapainya, dan dengan seringnya diakses oleh pengguna, kadang-kadang bisa saja terjadi masalah teknis.

Pertanyaan yang tidak akan direspon oleh ChatGPT

Selain dari jenis permintaan yang dibahas di atas, saya bertanya kepada ChatGPT jenis pertanyaan apa yang tidak difungsikan untuk dijawab. ChatGPT memberikan daftar berikut ini, yaitu:

Pertanyaan yang mempromosikan ujaran kebencian atau diskriminasi.
Pertanyaan yang melibatkan kegiatan ilegal atau meminta saran ilegal.
Pertanyaan yang mempromosikan kekerasan atau membahayakan diri sendiri atau orang lain.
Pertanyaan yang melanggar privasi pribadi atau melanggar hak seseorang.
Pertanyaan yang dirancang untuk mengganggu, mengancam atau mengintimidasi.
Pertanyaan yang mengandung kata-kata kasar atau bahasa eksplisit.
Pertanyaan yang bersifat seksual atau mengandung unsur ofensif.
Pertanyaan yang bersifat diskriminatif berdasarkan ras, gender, seksualitas atau agama.
Pertanyaan yang mempromosikan atau mendukung penggunaan obat-obatan atau zat ilegal.
Pertanyaan yang merupakan spam atau tidak relevan dengan percakapan.
Pertanyaan yang mengandung informasi rahasia atau properti (miliki orang lain).
Pertanyaan yang melibatkan saran keuangan atau investasi.
Pertanyaan yang melanggar syarat dan ketentuan atau pedoman komunitas.
Pertanyaan yang tidak masuk akal atau sulit dipahami.
Pertanyaan yang melibatkan serangan pribadi atau penghinaan.
Pertanyaan yang bersifat abusive atau mengganggu.
Pertanyaan yang mencoba untuk menipu atau menyesatkan.
Pertanyaan yang dimaksudkan untuk mencemarkan nama baik atau merugikan reputasi seseorang.
Pertanyaan yang mempromosikan teori konspirasi atau informasi yang salah.
Pertanyaan yang semata-mata untuk tujuan hiburan atau bercanda, tanpa nilai pendidikan atau informasi yang berguna.

Siapa saja yang mengikuti kolom ini tahu bahwa saya sering kali menanyakan pertanyaan #14 dan #20 dan biasanya mendapatkan jawaban yang sangat menghibur, jadi keterbatasannya sedikit. Misalnya, hari ini sebelumnya, saya bertanya untuk menjelaskan fisika lubang cacing yang berkaitan dengan perjalanan waktu dan siapa yang akan menang dalam pertarungan, Batman atau Superman. Itu murni hiburan, saya bilang kepadamu.

Apa arti batasan-batasan ini bagi masa depan AI generatif?

Jelas, kecerdasan buatan yang berdasarkan korpus pada tahun 2021 dan tidak berkembang akan menjadi usang. Seiring berjalannya waktu, pengetahuannya yang relevan akan berkurang. Bayangkan jika, sebaliknya, basis pengetahuan ChatAI dilatih pada tahun 2019 daripada 2021. Ia tidak akan tahu seperti apa masyarakat saat ini, mengingat kita mengalami gangguan besar pada tahun 2020 karena pandemi.

Juga: Ada jutaan orang yang menunggu di daftar tunggu Bing. Berikut cara untuk mendapatkan akses yang lebih awal.

Jadi, untuk kecerdasan buatan generatif tetap relevan, ia harus terus dilatih.

Satu cara yang jelas untuk melakukannya adalah membuka seluruh web dan membiarkannya menjelajah sebanyak mungkin, seperti yang telah dilakukan oleh Google selama ini. Namun seperti yang telah dijawab oleh ChatGPT di atas, hal tersebut membuka celah bagi banyak cara untuk memanipulasi dan merusak sistem, sehingga dapat merusak tingkat keakuratan.

Terlepas dari permainan jahat, tantangan untuk tetap netral sangat sulit. Ambil, sebagai contoh, politik. Meskipun pihak kanan dan kiri sangat tidak setuju satu sama lain, kedua sisi memiliki aspek dari ideologi mereka yang logis dan valid -- meskipun sisi lain tidak bisa atau tidak mau mengakui hal itu.

Bagaimana AI bisa menilai? Tapi, keberadaan lengkap semua premis ideologis adalah bentuk bias. Jika manusia tidak bisa mencari tahu cara untuk berjalan di atas garis ini, bagaimana kita bisa menuntut (atau memprogramkan) AI untuk melakukannya?

Sebagai cara untuk menggali seperti apa kehidupan tanpa adanya bias atau konten emosional yang lengkap, penulis fiksi ilmiah modern telah menciptakan karakter yang entah ketat-berlogika atau tanpa emosi. Kemudian, premis-premis itu menjadi bahan plot, yang memungkinkan penulis untuk mengeksplorasi keterbatasan dari seperti apa itu hidup tanpa kejumudan manusia berupa emosi dan perasaan.

Juga: Bing Chat milik Microsoft berdebat dengan pengguna, mengungkapkan rahasia

Kecuali jika para programmer AI berusaha meniru emosi atau memberikan penekanan pada konten emosional, atau berupaya memungkinkan adanya tingkat bias berdasarkan informasi yang dapat ditemukan di internet, chatbot seperti ChatGPT akan selalu terbatas dalam jawabannya. Namun jika para programmer AI mencoba meniru emosi atau mencoba memungkinkan adanya tingkat bias berdasarkan apa yang dapat ditemukan di internet, chatbot seperti ChatGPT akan terjerumus ke dalam kegilaan yang sama dengan manusia.

Jadi apa yang kita inginkan? Jawaban terbatas untuk beberapa pertanyaan, atau semua jawaban yang terasa seperti berasal dari diskusi dengan Pamannya Bob yang gila di atas meja makan pada hari Thanksgiving? Silahkan dipikirkan dan dibahas di kolom komentar di bawah, semoga tanpa mengalami perilaku yang seperti Pamannya Bob yang gila.

6 hal yang tidak dapat dilakukan oleh ChatGPT (dan 20 hal lainnya yang ditolak untuk dilakukan)