Trí tuệ nhân tạo (AI) đang phát triển nhanh chóng và phức tạp, và theo quy luật sẽ có những lỗi và hậu quả không lường trước được.
Các công ty công nghệ hiện đang tập trung vào AI nhằm tạo ra các sản phẩm để hỗ trợ các bác sĩ lâm sàng, thay vì phán đoán lâm sàng, điều này ngụ ý rằng trách nhiệm đối với các sai lầm vẫn thuộc về bác sĩ lâm sàng.
Dưới đây là tóm lược các nhận định liên quan đến các sự cố khi sử dụng các sản phẩm AI trong lĩnh vực y tế của các tác giả thuộc Acedemy of Medical Royal Colleges qua chuyên đề “Artificial Intelligence in Healthcare - Trí tuệ nhân tạo trong chăm sóc sức khỏe” (1/2019):
Ai chịu trách nhiệm khi có sự cố xảy ra liên quan đến sử dụng các ứng dụng AI trong lĩnh vực chăm sóc sức khoẻ?
Đó là một câu hỏi cơ bản tại cuộc trò chuyện giữa các bác sĩ lâm sàng, các tổ chức chăm sóc sức khỏe, các nhà hoạch định chính sách và các nhà phát triển AI.
Ở mức độ nào đó, chúng ta mong đợi các nhà cung cấp dịch vụ chăm sóc sức khỏe hiểu được sự phức tạp của công nghệ AI và ngược lại các công ty công nghệ AI hiểu được thực tế của thực hành lâm sàng?
Một bác sĩ lâm sàng có thể chịu trách nhiệm cho việc không sử dụng thuật toán hoặc thiết bị một cách chính xác, nhưng trong trường hợp nếu lỗi do nội dung không đúng thay vì sử dụng không đúng cách, thì trách nhiệm này phải thuộc về những người thiết kế và sau đó là những người đảm bảo chất lượng của sản phẩm AI.
Tuy nhiên, điều này cũng không dễ dàng để xác định. Con người có thể có xu hướng ‘tin tưởng vào một cỗ máy hơn là họ có thể tin tưởng chính mình'. Nếu bác sĩ lâm sàng, trên thực tế, áp dụng cứng nhắc những đề xuất bởi một thuật toán, thì ai chịu trách nhiệm nếu một lỗi được thực hiện?
Minh hoạ lỗi thường gặp của AI là do nguy cơ dữ liệu không đầy đủ: “Một thuật toán AI được thiết kế để dự đoán bệnh nhân viêm phổi nào có thể được xuất viện và điều trị một cách an toàn như bệnh nhân ngoại trú (sau khi máy đã học), một lỗi không chính xác đã xảy ra khi thuật toán AI cho rằng những bệnh nhân viêm phổi có tiền sử hen suyễn thì ít có nguy cơ tử vong hơn.
Điều này là do nó đúng với dữ liệu huấn luyện, vì bệnh nhân hen suyễn thường đến khoa ICU (chăm sóc tích cực), và được chăm sóc tích cực hơn và do đó ít có khả năng tử vong.
Thuật toán AI không hiểu điều này và sử dụng quy tắc rằng nếu ai đó bị viêm phổi có tiền căn hen suyễn, họ có nhiều khả năng được điều trị như một bệnh nhân ngoại trú.
Vì điều này, nhóm nghiên cứu đã quyết định sử dụng một hệ thống dựa trên quy tắc dễ hiểu hơn đối với con người, thay vì mạng lưới thần kinh (của AI), để họ có thể xác định và loại bỏ các quy tắc nguy hiểm”.
Từ những lập luận trên, các chuyên gia đã khuyến cáo:
(1) Phải xác định ranh giới trách nhiệm đối với các tác hại do nội dung bị lỗi hay do sử dụng không chính xác;
(2) Cần phải xem xét sự cần thiết chống lại sự thiên vị tự động hóa và áp dụng cứng ngắt các khuyến nghị do AI tạo ra;
(3) Bác sĩ lâm sàng cần được trang bị các kỹ năng mới để đánh giá công nghệ mới và cho phép họ đồng ý hoặc không đồng ý một cách tự tin với các khuyến nghị do AI tạo ra.
Theo WikiPedia, trong khoa học máy tính, trí tuệ nhân tạo hay AI (tiếng Anh: Artificial Intelligence), đôi khi được gọi là trí thông minh nhân tạo, là trí thông minh được thể hiện bằng máy móc, trái ngược với trí thông minh tự nhiên được con người thể hiện.
Thông thường, thuật ngữ "trí tuệ nhân tạo" thường được sử dụng để mô tả các máy móc (hoặc máy tính) bắt chước các chức năng "nhận thức" mà con người liên kết với tâm trí con người, như "học tập" và "giải quyết vấn đề".