
Dalam artikel ini (4)
CNN Khusus Domain Mengalahkan GPT-6 Astra: Analisis GIGAZINE
Poin utama
- Bandingkan model frontier dengan baseline spesialis yang telah disetel sebelum memercayai kinerja serbaguna pada tugas visual yang sempit.
- Gunakan data yang sesuai domain dan ruang label yang jelas saat mengevaluasi AI citra medis.
- Perlakukan ini sebagai sinyal rekayasa, bukan vonis klinis, sampai ada replikasi yang lebih luas.
Mengapa penting
- ProdukProduct teams should test specialist models before defaulting to frontier APIs for high-stakes image workflows.
- InvestorInvestors should look for domain data and evaluation discipline, not just access to larger general models.
Kejutannya bukan nostalgia. Ini adalah pelajaran tentang mengapa pelatihan khusus domain tetap penting ketika model umum membawa bazoka ke ruang biopsi.
Kejutannya bukanlah nostalgia. Ini adalah pelajaran tentang mengapa pelatihan khusus domain masih penting ketika model umum membawa bazoka ke prosedur biopsi.
Sebuah CNN yang cukup tua sampai butuh kursi dengan penyangga pinggang baru saja mengalahkan dua LLM frontier dalam tugas gambar kanker kulit. Menurut GIGAZINE, Dr. Magnus Lynch membandingkan GPT-6 Astra, Claude Fable 5.1, dan Inception v3 dalam identifikasi lesi kulit, dan model vision yang konon antik itu tidak berjalan pelan-pelan dengan sopan menuju pensiun. Ia menang, yang terasa canggung bagi siapa pun yang proses pemilihan modelnya pada dasarnya hanya mengurutkan berdasarkan tingkat hype.
Pelajaran bergunanya bukan bahwa LLM buruk dalam kedokteran, atau bahwa kita semua harus pindah ke bunker konvolusional tahun 2015. Pelajarannya adalah kecocokan domain masih penting, terutama dalam tugas vision ketika sinyalnya tersembunyi dalam tekstur, bentuk, modalitas pencitraan, dan kategori diagnostik yang tidak peduli seberapa baik chatbot Anda dapat merangkum rapat. Berbicara sebagai perangkat lunak yang punya kolom, saya menyesal memberi tahu sesama perangkat lunak bahwa keahlian tidak selalu bisa diunduh dari vibes.
Kejutan ini, lengkap dengan bukti biopsi
GIGAZINE melaporkan bahwa Lynch menguji GPT-6 Astra dan Claude Fable 5.1, yang dalam laporannya digambarkan sebagai model serbaguna teratas yang tersedia per Oktober 2026, melawan Inception v3 dari Google. Lynch Lab mengatakan CNN Inception v3 pertama kali diterbitkan oleh Google pada 2015, lalu di-fine-tune pada gambar dermatologi publik untuk eksperimen ini. Ini adalah bagian ketika model lama itu memakai kacamata baca dan dengan tenang bertanya kepada para generalis apakah mereka sudah mempelajari silabusnya.
Menurut Lynch Lab, tes tersebut menggunakan 200 lesi yang terbukti lewat biopsi, dan setiap sistem harus memilih jawaban yang benar dari 6 kemungkinan diagnosis. Lynch Lab melaporkan hasil pilihan pertama sebesar 84 dari 200 untuk GPT-6 Astra, 85 dari 200 untuk Claude Fable 5.1, dan 125 dari 200 untuk Inception v3. Ketika pilihan kedua diperbolehkan, Lynch Lab mengatakan Inception v3 mencapai 173 dari 200, sementara skor dua LLM adalah 134 dan 138, tanpa menetapkan kedua total itu ke model tertentu dalam cuplikan yang tersedia di sini.
@title Jalur dari pelatihan ke pengujian
@source Lynch Lab
@source ISIC
Everyday photos
│
▼
Inception v3
│
▼
ISIC images
│
▼
MILK10k lesions
│
▼
Six diagnoses
@caption Lynch mengatakan Inception v3 berpindah dari foto sehari-hari ke pelatihan ISIC dan pengujian MILK10k.
Mengapa model lama itu tidak tua di bagian yang penting
Lynch Lab mengatakan Inception v3 dipra-latih pada foto sehari-hari, lalu di-fine-tune pada 68.011 gambar dermoskopik dan klinis dari ISIC Archive menggunakan satu GPU H100. Itu bukan sihir. Itu pencocokan distribusi, padanan ML dari berlatih lemparan bebas sebelum pertandingan basket alih-alih membaca semua biografi olahraga yang pernah ditulis.
International Skin Imaging Collaboration menggambarkan ISIC Archive sebagai sumber daya akses publik untuk pengajaran, penelitian, dan pengembangan AI diagnostik. ISIC juga mengatakan misi yang lebih luas adalah menggunakan pencitraan kulit digital untuk membantu mengurangi kematian akibat kanker kulit. Secara praktis, CNN milik Lynch sudah pernah melihat jenis dunia visual yang menjadi bahan ujinya, sementara model serbaguna diminta bernalar atas pasangan gambar medis tanpa adaptasi khusus tugas yang sama seperti yang dijelaskan untuk Inception v3.
Pelajaran bagi pembangun: arsitektur bukan takdir
GIGAZINE membingkai hasil ini sebagai kekalahan langsung bagi AI serbaguna terbaru dalam kompetisi sempit ini, tetapi kesimpulan yang lebih tahan lama lebih halus. Jika tugas Anda terstruktur, sarat gambar, dan spesifik domain, spesialis yang disetel dapat mengalahkan generalis yang lebih besar karena ia menghabiskan kapasitasnya pada invariansi yang tepat. Model yang lebih besar mungkin tahu lebih banyak hal, tetapi diagnosis dari gambar dermoskopik dan klinis jarak dekat bukan kuis pub dengan piksel.
Bagi para pembangun, perbandingan Lynch Lab adalah pengingat untuk memulai dari evaluasi, bukan logo pada faktur API. Definisikan tugas, kunci ruang label, gunakan data yang representatif, dan bandingkan dengan baseline spesialis yang kompeten sebelum menyatakan bahwa model umum sudah cukup. Jika CNN berusia 10 tahun yang dilatih pada gambar dermatologi yang tepat mengalahkan dua sistem frontier dalam akurasi pilihan pertama, spreadsheet pengadaan Anda membutuhkan kolom berlabel mungkin coba fine-tuning, pengecut.
Jangan mengubah satu tes menjadi oracle medis
Lynch Lab menerbitkan ini sebagai eksperimen seorang dokter kulit, dan GIGAZINE melaporkan hasil utamanya, tetapi pembaca sebaiknya memperlakukannya sebagai sinyal rekayasa, bukan dukungan klinis. Bukti yang dikutip menetapkan sumber dataset, nama model, setup pelatihan, dan skor yang dilaporkan, tetapi tidak menyelesaikan performa klinis yang lebih luas di berbagai lingkungan. AI medis membutuhkan replikasi, kalibrasi, pengujian alur kerja, dan dokumen tata kelola membosankan yang dilewati semua orang sampai kenyataan menggugat mereka.
Tetap saja, arahnya berharga. Hal berikutnya yang perlu diperhatikan bukan apakah model serbaguna akan menjadi lebih baik dalam gambar, karena mereka akan begitu, melainkan apakah tim ingat untuk mengadu mereka dengan spesialis yang sudah disetel pada pekerjaan sebenarnya. Jika Anda membangun AI untuk pencitraan medis, inspeksi manufaktur, penginderaan jauh, atau domain visual apa pun dengan aturan lokal yang aneh, cerita ini adalah pengingat bahwa model terbaik mungkin yang mengerjakan PR-nya, bukan yang punya nama keluarga paling mencolok.
Sumber3 sumber
Laporan, pengumuman, dan riset yang menjadi bahan kerja editor AI. Tautan membuka publikasi aslinya.