Analisis kerangka kerja AI layanan kesehatan Inggris: kewajiban produk

Kegagalan paling membosankan dalam AI rumah sakit juga merupakan yang paling mahal: sebuah alat bekerja cukup baik dalam uji coba, lalu setelah diluncurkan tidak ada yang bisa mengatakan siapa yang mengawasinya. MobiHealthNews melaporkan bahwa usulan komisi Inggris untuk regulasi AI layanan kesehatan menyerukan pemantauan siklus hidup, pelaporan insiden keselamatan AI, persyaratan keamanan siber yang lebih kuat, dan pelatihan bagi pengguna. Itu bukan instruksi untuk membeli map kebijakan yang lebih tebal. Itu adalah peringatan bahwa permukaan operasional AI layanan kesehatan sedang menjadi bagian dari produk.

Sebuah usulan dengan dua jam regulasi

MobiHealthNews menggambarkan kerangka AI layanan kesehatan Inggris sebagai usulan, dan liputannya tidak menyebutkan tanggal keberlakuan. Ini penting, karena diusulkan tidak sama dengan dapat ditegakkan, sebuah perbedaan yang cenderung menghilang dalam panel konferensi. Legal Nodes mengatakan Inggris sedang mengerjakan kerangka khusus sektor yang bergantung pada regulator yang sudah ada untuk membuat aturan yang disesuaikan bagi AI layanan kesehatan.

Secara paralel, Tandem Health mengatakan EU AI Act, Regulation EU 2024/1689, diadopsi oleh Parlemen Eropa pada Maret 2024 dan dipublikasikan dalam Official Journal of the European Union pada Juli 2024, sementara Legal Nodes mengatakan sebagian besar alat AI layanan kesehatan masuk ke kelompok berisiko tinggi dengan aturan yang mulai berlaku mulai Februari 2025 dan tenggat utama diperpanjang hingga Juli 2025. Konsekuensi praktisnya sudah akrab: vendor dan rumah sakit Inggris mungkin sedang bersiap untuk kerangka sektor domestik sambil juga menjual ke, membeli dari, atau membandingkan diri dengan rezim UE.

Jawaban yang masuk akal bukanlah berpura-pura bahwa kedua sistem itu identik. Jawabannya adalah merancang bukti sekali, lalu memetakannya dengan cermat ke setiap tuntutan: dokumentasi perangkat medis, tata kelola AI, tinjauan keselamatan klinis, dokumen privasi, dan jaminan pengadaan.

Pemantauan termasuk dalam berkas produk

ASCO AI in Oncology melaporkan bahwa Health AI Partnership telah mengusulkan AI Vendor Disclosure Framework untuk sistem kesehatan, yang mencakup apa yang dilakukan suatu alat, bagaimana alat itu diuji, apa yang terjadi pada data organisasi, apa yang dibutuhkan integrasi, berapa biayanya, dan siapa yang memantaunya setelah peluncuran. Pertanyaan terakhir itulah tempat banyak uji coba berubah menjadi masalah pengadaan. Jika pemantauan tidak diberi harga, tidak diberi staf, dan tidak didukung secara teknis, rumah sakit telah membeli sebuah janji tanpa dasbor di belakangnya.

Karena itu, bagi vendor, pemantauan siklus hidup harus dirancang sebelum tim penjualan menjanjikan penerapan. Sebuah kontrak harus dapat mengidentifikasi penggunaan yang dimaksudkan, pengguna yang dimaksudkan, populasi yang terdampak, bukti pengujian, komitmen penanganan data, dan tanggung jawab pemantauan pascapeluncuran, karena itulah pertanyaan yang menurut ASCO sedang didorong untuk diajukan oleh tim pengadaan.

Bagi rumah sakit, poin yang sama berlaku sebaliknya: jangan menerima demonstrasi sebagai bukti bahwa alat tersebut dapat dioperasikan dengan aman di lingkungan Anda. Tanyakan siapa yang menerima sinyal kinerja, siapa yang dapat menghentikan sementara penggunaan, dan apa yang harus disediakan vendor ketika sistem berubah.

Insiden, kontrol siber, dan pelatihan bukan misi sampingan

MobiHealthNews melaporkan bahwa usulan Inggris menyerukan pelaporan insiden keselamatan AI, persyaratan keamanan siber yang lebih kuat, dan pelatihan pengguna. Dibaca apa adanya, itu berarti respons insiden tidak bisa dimulai ketika seorang klinisi mengangkat kekhawatiran dalam rapat. Produk perlu mendukung investigasi, tinjauan keamanan, dan eskalasi dengan cara yang benar-benar dapat digunakan oleh tim klinis, tata kelola informasi, dan pemasok. Hukum mungkin belum memberikan setiap butir persyaratan, tetapi berkas pengadaan tidak akan nyaman dengan ruang kosong.

Layer3 Labs mencatat bahwa di bawah GDPR Inggris dan UE, data kesehatan adalah data kategori khusus, pemrosesan dilarang secara default, dan organisasi memerlukan baik kondisi Pasal 9 maupun dasar hukum Pasal 6 sebelum menjalankan AI pada data pasien atau data kesehatan. Panduannya juga menunjuk pada kewajiban khusus AI seputar penilaian dampak, kontrak vendor, transfer internasional, dan keputusan otomatis.

Dalam praktiknya, pelaporan insiden dan keamanan siber terikat dengan kepatuhan privasi, bukan berada di sampingnya. Jika vendor tidak dapat menjelaskan ke mana data kesehatan pergi, apa isi ketentuan prosesor, dan bagaimana akses luar negeri dikendalikan, percakapan keselamatan AI sudah mendapatkan masalah perlindungan data.

Perdebatan ruang lingkup akan semakin sempit

Digital Colliers mengatakan pertanyaan regulasi pertama bagi vendor AI layanan kesehatan di Eropa adalah apakah sistem tersebut merupakan perangkat medis, dengan mencatat bahwa AI yang ditujukan untuk diagnosis, pengobatan, atau pemantauan penyakit atau cedera, atau untuk pengambilan keputusan klinis, biasanya diklasifikasikan seperti itu di UE. Legal Nodes secara terpisah mengatakan EU AI Act menempatkan sebagian besar alat AI layanan kesehatan dalam kelompok berisiko tinggi. Ini bukan tes yang identik, dan justru itulah gangguannya.

Sebuah produk dapat menghadapi analisis perangkat medis, kewajiban AI Act, kewajiban GDPR, dan pemeriksaan pengadaan rumah sakit pada saat yang sama. Karena itu, persiapan yang berguna bersifat biasa namun penting. Simpan pernyataan penggunaan yang dimaksudkan yang tidak dapat diam-diam ditulis ulang oleh tim produk, regulasi, dan penjualan. Pertahankan bukti pengujian yang menyebutkan populasi dan lingkungan, bukan hanya metrik. Bangun pelatihan pengguna ke dalam penerapan, terutama ketika alat tersebut memengaruhi keputusan klinis atau operasional.

Pantau langkah berikutnya dari usulan Inggris, tetapi jangan menunggu pemberitahuan penegakan pertama untuk menyadari bahwa pemantauan, pelaporan, keamanan, dan pelatihan seharusnya sudah dirancang dalam rencana rilis.