IBM Watson - kesalahan sebesar $4 miliar

Kesehatan Watson dari IBM bukan hanya salah satu kegagalan AI terbesar - itu adalah pengingat seharga $4 miliar bahwa ambisi tanpa keselarasan tidak dapat dibedakan dari ilusi.

Orang-orang terus memamerkan "Saya bekerja di Watson" seperti itu adalah lencana kehormatan. Tidak seharusnya seperti itu. Watson bukanlah yang pertama. Watson salah.

Itu adalah demo Jeopardy yang hebat yang runtuh saat menyentuh dunia nyata.

Dan itu tidak runtuh dengan sunyi. Kami hanya berhenti menyebutkannya dengan keras.

Jejak yang ditinggalkannya sangat brutal:

MD Anderson menghabiskan $62m dan tidak mendapatkan apa pun yang dapat diterapkan
Rumah sakit di Australia meninggalkannya setelah rekomendasi yang tidak aman
IBM menjual Watson Health pada 2022 setelah tahun-tahun kerugian

Itu bukanlah inovasi. Itu pola.

Orang-orang masih memamerkan Watson sebagai bukti kredibilitas AI mereka. Seharusnya sebaliknya.

Watson tidak mendorong bidang ini maju. Bidang ini hanya bergerak melewatinya.

Sementara AI modern dibangun dengan deep learning, perhatian, transformer, self-supervisi, hukum skala, RLHF & model dasar, Watson tetap terpaku pada pipeline skoring simbolik, ontologi yang rapuh & indeksasi offline.

Tidak ada terobosan yang mendefinisikan tumpukan hari ini yang berasal dari Watson. Tidak ada yang merujuknya. Tidak ada yang berdiri di atas bahunya.

Watson tidak berkembang menjadi ekosistem AI modern. Itu menjadi cabang mati di pohon. Demo laboratorium yang mengkilap yang tidak pernah beradaptasi dengan kondisi dunia nyata.

Cerita ini bukan hanya kegagalan teknis. Itu juga cerita tentang apa yang dipelajari bidang ini dengan menyaksikan kegagalan yang terjadi.

Dan Watson pasti mengajarkan kita sesuatu yang penting. Itu mengajarkan kita apa yang tidak boleh dilakukan.

Itu memperjelas bahan-bahan yang dibutuhkan AI modern:

pembelajaran ujung ke ujung
self-supervisi
skala
penalaran probabilistik
representasi yang fleksibel
estimasi ketidakpastian
keselarasan gaya RLHF dengan penilaian manusia

Watson gagal dalam hal ini, tetapi dengan gagal, itu membuatnya terlihat. Keruntuhannya melakukan lebih banyak untuk mendefinisikan batas-batas bidang ini daripada kesuksesannya.

Watson tidak gagal sendirian. Itu memaksa organisasi untuk menghadapi kompleksitas mereka sendiri juga.

Rumah sakit menemukan melalui Watson bahwa:

catatan klinis tidak konsisten
alur kerja terfragmentasi
penyelarasan ontologi tidak sepele
"kebenaran dasar" dalam kedokteran sering diperdebatkan

Watson mengungkapkan bahwa organisasi tidak siap untuk tingkat AI yang mereka klaim inginkan. Data tidak siap. Alur kerja tidak siap. Pengelolaan tidak siap. Harapan pasti tidak siap.

Jadi, ya, Watson menyesatkan pasar. Itu berjanji terlalu banyak. Itu menjual terlalu banyak. Itu mendorong paradigma yang salah.

Tapi itu juga mengungkapkan kompleksitas tersembunyi yang semua orang telah berpura-pura sederhana.

Watson adalah pengingat tentang apa yang terjadi ketika:

vendor menjual terlalu banyak
eksekutif tidak memeriksa dengan teliti
model melangkah terlalu jauh
kompleksitas diabaikan
narasi menggantikan kenyataan

Jadi, lain kali seseorang menyebutkan Watson sebagai bukti kredibilitas AI mereka, tanyakan pertanyaan sederhana: "Apa yang dicapainya dalam produksi?"

Keheningan adalah warisan sebenarnya dari Watson.

Bukan demo. Bukan hype. Keheningan.

Harap dicatat bahwa versi bahasa Indonesia didukung oleh AI dan karena itu mungkin terjadi kesalahan kecil.

Penulis

Ai Base Network (ABN), ABN ASIA didirikan oleh orang-orang dengan akar yang kuat di dunia akademis, dengan pengalaman kerja di Amerika Serikat, Belanda, Hungaria, Jepang, Korea Selatan, Singapura, dan Vietnam. ABN Asia adalah tempat di mana akademik dan teknologi bertemu dengan peluang. Dengan solusi terdepan kami dan layanan pengembangan perangkat lunak yang kompeten, kami membantu bisnis untuk meningkatkan level dan bersaing di panggung global. Komitmen kami: Lebih Cepat. Lebih Baik. Lebih handal. Dalam kebanyakan kasus: Lebih murah juga.

Jangan ragu untuk menghubungi kami jika Anda membutuhkan layanan IT, konsultasi digital, solusi perangkat lunak siap pakai, atau jika Anda ingin mengirimkan permintaan proposal (RFP). Anda dapat menghubungi kami di [email protected]. Kami siap membantu Anda dengan semua kebutuhan teknologi Anda.