Làm thế nào trí tuệ nhân tạo có thể giải thích các quyết định của nó

Article

Làm thế nào trí tuệ nhân tạo có thể giải thích các quyết định của nó


Làm thế nào trí tuệ nhân tạo có thể giải thích các quyết định của nó

Làm thế nào trí tuệ nhân tạo có thể giải thích các quyết định của nó

bởi 

Làm thế nào trí tuệ nhân tạo có thể giải thích các quyết định của nó

Một mạng lưới thần kinh ban đầu được huấn luyện với nhiều bộ dữ liệu để có thể phân biệt hình ảnh mô chứa khối u với hình ảnh mô không có khối u (đầu vào từ trên cùng trong sơ đồ). Sau đó, nó được trình bày với một hình ảnh mô mới từ một thí nghiệm (đầu vào từ bên trái). Thông qua lập luận quy nạp, mạng thần kinh tạo ra phân loại "có chứa khối u" hoặc "không có khối u" cho hình ảnh tương ứng. Đồng thời, nó tạo ra một bản đồ kích hoạt của hình ảnh mô. Bản đồ kích hoạt đã xuất hiện từ quá trình học tập quy nạp và ban đầu không liên quan đến thực tế. Mối tương quan được thiết lập bởi giả thuyết có thể sai lầm rằng các vùng có độ hoạt hóa cao tương ứng chính xác với các vùng khối u trong mẫu. Giả thuyết này có thể được kiểm tra bằng các thí nghiệm tiếp theo. Điều này có nghĩa là cách tiếp cận tuân theo logic suy diễn. Tín dụng:

Trí tuệ nhân tạo (AI) có thể được đào tạo để nhận biết xem một hình ảnh mô có chứa khối u hay không. Tuy nhiên, chính xác làm thế nào nó đưa ra quyết định của nó vẫn còn là một bí ẩn cho đến nay. Một nhóm từ Trung tâm Nghiên cứu Chẩn đoán Protein (PRODI) tại Ruhr-Universität Bochum đang phát triển một cách tiếp cận mới giúp đưa ra quyết định của AI trở nên minh bạch và đáng tin cậy. Các nhà nghiên cứu do Giáo sư Axel Mosig dẫn đầu đã mô tả cách tiếp cận này trên tạp chí Medical Image Analysis .

Để thực hiện nghiên cứu, nhà khoa học tin sinh học Axel Mosig đã hợp tác với Giáo sư Andrea Tannapfel, người đứng đầu Viện Bệnh học, Giáo sư ung thư Anke Reinacher-Schick từ Bệnh viện St. Josef của Ruhr-Universität, và nhà lý sinh và giám đốc sáng lập PRODI, Giáo sư Klaus Gerwert. Nhóm đã phát triển một mạng lưới thần kinh, tức là một AI, có thể phân loại xem một mẫu mô có chứa khối u hay không. Để đạt được mục tiêu này, họ đã cung cấp cho AI một số lượng lớn các hình ảnh mô vi mô, một số trong số đó có chứa khối u, trong khi những bức ảnh khác không có khối u.

Axel Mosig giải thích: “Các mạng nơ-ron ban đầu là một hộp đen: không rõ đặc điểm nhận dạng nào mà mạng học được từ dữ liệu đào tạo. Không giống như các chuyên gia về con người, họ thiếu khả năng giải thích các quyết định của mình. "Tuy nhiên, đối với  nói riêng, điều quan trọng là AI có khả năng giải thích và do đó đáng tin cậy", nhà khoa học tin sinh học David Schuhmacher, người đã cộng tác trong nghiên cứu cho biết thêm.

AI dựa trên các giả thuyết có thể ngụy tạo được

Do đó, AI có thể giải thích được của nhóm Bochum dựa trên loại tuyên bố có ý nghĩa duy nhất mà khoa học biết đến: về các giả thuyết có thể ngụy tạo. Nếu một giả thuyết là sai, sự thật này phải được chứng minh thông qua một thí nghiệm. Trí tuệ nhân tạo thường tuân theo nguyên tắc suy luận quy nạp: sử dụng các quan sát cụ thể, tức là  , AI tạo ra một mô hình chung trên cơ sở đó đánh giá tất cả các quan sát tiếp theo.

Vấn đề cơ bản đã được nhà triết học David Hume mô tả 250 năm trước và có thể dễ dàng minh họa: Cho dù chúng ta quan sát được bao nhiêu con thiên nga trắng, chúng ta không bao giờ có thể kết luận từ dữ liệu này rằng tất cả thiên nga đều trắng và không có thiên nga đen nào tồn tại. Do đó, khoa học sử dụng cái gọi là logic suy diễn. Trong cách tiếp cận này, một giả thuyết chung là điểm khởi đầu. Ví dụ, giả thuyết rằng tất cả thiên nga đều có màu trắng bị sai khi phát hiện ra một con thiên nga đen.

Làm thế nào trí tuệ nhân tạo có thể giải thích các quyết định của nó

Mạng nơ-ron tạo ra một bản đồ kích hoạt (bên phải) từ hình ảnh hiển vi của một mẫu mô (bên trái). Một giả thuyết thiết lập mối tương quan giữa cường độ kích hoạt được xác định chỉ bằng tính toán và việc xác định các vùng khối u có thể được xác minh trong các thí nghiệm. Tín dụng: PRODI

Bản đồ kích hoạt cho thấy nơi phát hiện khối u

Stephanie Schörner, một nhà vật lý cũng đóng góp vào nghiên cứu cho biết: “Thoạt nhìn, AI quy nạp và phương pháp khoa học suy diễn gần như không tương thích với nhau. Nhưng các nhà nghiên cứu đã tìm ra một cách. Mạng lưới thần kinh mới của họ không chỉ cung cấp phân loại xem một mẫu mô có chứa khối u hay không có khối u, nó còn tạo ra một bản đồ kích hoạt của hình ảnh mô vi mô.

Bản đồ kích hoạt dựa trên một giả thuyết có thể kiểm chứng được, cụ thể là kích hoạt bắt nguồn từ  tương ứng chính xác với các vùng khối u trong mẫu. Có thể sử dụng các phương pháp phân tử cụ thể theo vị trí để kiểm tra giả thuyết này.

Axel kết luận: "Nhờ các cấu trúc liên ngành tại PRODI, chúng tôi có các điều kiện tiên quyết tốt nhất để kết hợp phương pháp tiếp cận dựa trên giả thuyết vào sự phát triển của AI đánh dấu sinh học đáng tin cậy trong tương lai, để có thể phân biệt giữa một số loại khối u phù hợp với liệu pháp". Mosig.