Trí thông minh nhân tạo có thể cải thiện sức khỏe cho tất cả mọi người trừ khi nó không
Các công cụ y tế do AI điều khiển có thể dân chủ hóa chăm sóc sức khỏe, nhưng một số lo ngại chúng cũng có thể làm xấu đi sự bất bình đẳng.
Câu chuyện này ban đầu được xuất bản trên tạp chí Undark và đã được tái bản ở đây với sự cho phép.
Bạn có thể được tha thứ vì nghĩ rằng AI sẽ sớm thay thế các bác sĩ của con người dựa trên các tiêu đề như, Bác sĩ AI sẽ gặp bạn ngay bây giờ , Bác sĩ tương lai của bạn có thể không phải là con người , Hồi giáo và AI Đây chỉ là bác sĩ của con người trong cuộc kiểm tra lâm sàng . Nhưng các chuyên gia nói rằng thực tế là một sự hợp tác nhiều hơn là một vụ lật đổ: Bệnh nhân có thể sớm tìm thấy cuộc sống của họ một phần trong tay các dịch vụ AI hoạt động cùng với các bác sĩ lâm sàng của con người.
Không thiếu sự lạc quan về AI trong cộng đồng y tế. Nhưng nhiều người cũng cảnh báo sự cường điệu xung quanh AI vẫn chưa được hiện thực hóa trong môi trường lâm sàng thực sự. Cũng có những tầm nhìn khác nhau về cách các dịch vụ AI có thể tạo ra tác động lớn nhất. Và vẫn chưa rõ liệu AI sẽ cải thiện cuộc sống của bệnh nhân hay chỉ là điểm mấu chốt cho các công ty, tổ chức chăm sóc sức khỏe và công ty bảo hiểm ở Thung lũng Silicon.
Tôi nghĩ rằng tất cả các bệnh nhân của chúng tôi thực sự muốn các công nghệ AI được đưa ra để khắc phục những điểm yếu trong hệ thống chăm sóc sức khỏe, nhưng chúng tôi cần thực hiện nó theo cách cường điệu không phải ở Thung lũng Silicon, theo ông Isaac Kohane, một nhà nghiên cứu tin học y sinh tại Harvard Trường y tế.
Nếu AI hoạt động như đã hứa, nó có thể dân chủ hóa chăm sóc sức khỏe bằng cách tăng cường truy cập cho các cộng đồng không được bảo vệ và giảm chi phí cho một lợi ích ở Hoa Kỳ, vốn xếp hạng kém trong nhiều biện pháp y tế mặc dù chi phí chăm sóc sức khỏe trung bình hàng năm là 10.739 đô la mỗi người. Các hệ thống AI có thể giải phóng các bác sĩ làm việc quá sức và giảm nguy cơ mắc các lỗi y tế có thể giết chết hàng chục nghìn người, nếu không nói là hàng trăm nghìn bệnh nhân Mỹ mỗi năm. Và ở nhiều quốc gia có tình trạng thiếu bác sĩ quốc gia, chẳng hạn như Trung Quốc, nơi các khoa ngoại trú của bệnh viện đô thị quá đông có thể thấy tới 10.000 người mỗi ngày, những công nghệ như vậy không cần độ chính xác hoàn hảo để chứng minh sự hữu ích.
Nhưng các nhà phê bình chỉ ra rằng tất cả những lời hứa đó có thể tan biến nếu việc vội vàng thực hiện AI chà đạp quyền riêng tư của bệnh nhân, bỏ qua những thành kiến và hạn chế hoặc không triển khai các dịch vụ theo cách cải thiện kết quả sức khỏe cho hầu hết mọi người.
Jay Cũng giống như cách mà các công nghệ có thể thu hẹp sự chênh lệch, chúng có thể làm trầm trọng thêm sự chênh lệch, ông Jayanth Komarneni, người sáng lập và chủ tịch của Dự án Chẩn đoán Con người (Human Dx), một tập đoàn lợi ích công cộng tập trung vào chuyên môn y tế. Không có gì có khả năng làm trầm trọng thêm sự chênh lệch như AI.
Ngày nay , các kỹ thuật AI phổ biến nhất là học máy và em họ của nó, học sâu. Không giống như các chương trình máy tính tuân theo các quy tắc được viết bởi con người, cả thuật toán học máy và học sâu đều có thể nhìn vào một tập dữ liệu, học từ nó và đưa ra dự đoán mới. Học sâu đặc biệt có thể đưa ra dự đoán ấn tượng bằng cách khám phá các mẫu dữ liệu mà mọi người có thể bỏ lỡ.
Nhưng để tận dụng tối đa những dự đoán này trong chăm sóc sức khỏe, AI không thể đi một mình. Thay vào đó, con người vẫn phải giúp đưa ra quyết định có thể có hậu quả lớn về sức khỏe và tài chính. Bởi vì các hệ thống AI thiếu trí thông minh chung của con người, chúng có thể đưa ra những dự đoán khó hiểu có thể gây hại nếu các bác sĩ và bệnh viện không nghi ngờ theo dõi chúng.
Ví dụ kinh điển đến từ Rich Caruana, một nhà nghiên cứu cao cấp tại Microsoft Research, như ông đã giải thích trên tạp chí Kỹ thuật và Công nghệ năm ngoái. Vào những năm 1990, Caruana đã làm việc trong một dự án đã thử sử dụng một hình thức học máy trước đó để dự đoán liệu một bệnh nhân bị viêm phổi là một trường hợp rủi ro thấp hay nguy cơ cao. Nhưng rắc rối đã nảy sinh khi mô hình học máy cố gắng dự đoán trường hợp bệnh nhân hen suyễn, những người có nguy cơ cao vì khó thở từ trước khiến họ dễ bị viêm phổi. Mô hình đã xác định những bệnh nhân này có nguy cơ thấp, cần can thiệp nhỏ thay vì nhập viện, một điều mà một chuyên gia về con người sẽ không bao giờ làm được.
Nếu bạn theo mô hình một cách mù quáng, theo ông Kenneth Jung, một nhà khoa học nghiên cứu tại Trung tâm nghiên cứu tin học y sinh Stanford, thì bạn đã bị ho. Bởi vì người mẫu đang nói: 'Ồ, đứa trẻ bị hen suyễn này đến và chúng bị viêm phổi, nhưng chúng tôi không cần phải lo lắng về chúng, và chúng tôi sẽ gửi chúng về nhà bằng một số loại thuốc kháng sinh.'
Dự đoán học sâu cũng có thể thất bại nếu lần đầu tiên họ gặp phải các điểm dữ liệu bất thường, chẳng hạn như các trường hợp y tế duy nhất hoặc khi họ tìm hiểu các mẫu đặc biệt trong các bộ dữ liệu cụ thể không khái quát tốt cho các trường hợp y tế mới.
Các dự đoán AI làm tốt nhất khi được áp dụng cho các tập dữ liệu lớn, chẳng hạn như ở Trung Quốc, có lợi thế trong việc đào tạo các hệ thống AI nhờ truy cập vào các quần thể lớn và dữ liệu bệnh nhân. Vào tháng 2, tạp chí Y học Tự nhiên đã công bố một nghiên cứu từ các nhà nghiên cứu có trụ sở tại San Diego và Quảng Châu, Trung Quốc, cho thấy có nhiều hứa hẹn trong chẩn đoán nhiều bệnh phổ biến ở trẻ em dựa trên hồ sơ sức khỏe điện tử của hơn 567.000 trẻ em.
Nhưng ngay cả các tập dữ liệu lớn cũng có thể gây ra vấn đề, đặc biệt là khi các nhà nghiên cứu cố gắng áp dụng thuật toán của họ cho một dân số mới. Trong nghiên cứu Y học Tự nhiên , tất cả nửa triệu bệnh nhân đến từ một trung tâm y tế ở Quảng Châu, điều đó có nghĩa là không có gì đảm bảo các bài học chẩn đoán học được từ đào tạo về bộ dữ liệu đó sẽ áp dụng cho các trường hợp nhi khoa ở nơi khác. Mỗi trung tâm y tế có thể thu hút một nhóm bệnh nhân duy nhất của riêng mình, một bệnh viện nổi tiếng với trung tâm tim mạch, có thể thu hút các bệnh tim nghiêm trọng hơn. Và những phát hiện từ một bệnh viện Quảng Châu chủ yếu thu hút các bệnh nhân dân tộc Trung Quốc có thể không dịch sang một bệnh nhân ở Thượng Hải với số lượng bệnh nhân không phải là người nước ngoài, không phải người Trung Quốc.
(CAPTION: Trong Cuộc nói chuyện TEDx 2017 này, YAMini Kundu của Bệnh viện Johns Hopkins giải thích cách các công cụ AI có khả năng lượm lặt được nhiều hơn từ hình ảnh y tế so với các bác sĩ có thể chỉ bao gồm dự đoán bệnh trước khi bệnh nhân xuất hiện các triệu chứng.)
Phép ngoại suy này sẽ chứng minh khó khăn trong các tình huống khác. Ví dụ, Marzyeh Ghassemi, một nhà khoa học máy tính và kỹ sư y sinh tại Đại học Toronto, nói rằng bạn có 40.000 bệnh nhân ICU tại Trung tâm Y tế Beth Israel Deaconess chỉ là một bệnh viện trong một thành phố. Và vì vậy tôi có tất cả những bài báo đã thực hiện dự đoán với dữ liệu này. Điều đó có làm việc với một bệnh viện khác ở Boston không? Có lẽ. Nó làm việc cho một bệnh viện ở một tiểu bang khác? Nó sẽ làm việc ở nước khác? Chúng tôi không biết.
Các mô hình AI đáng ghét có thể không hoạt động trong mọi trường hợp, Ghassemi nghĩ rằng công nghệ này vẫn đáng để khám phá. Tôi rất thích dùng những mô hình này từ băng ghế đến đầu giường, cô ấy nói, nhưng với những bước phòng ngừa rất tích cực.
Những bước cần phải tồn tại trong suốt quá trình phát triển và triển khai AI, I. Glenn Cohen, giáo sư luật tại Đại học Harvard và là người lãnh đạo Dự án về Y học chính xác, Trí tuệ nhân tạo và Luật. Điều này có thể liên quan đến việc xác minh tính chính xác và minh bạch của các dự đoán AI. Và trong quá trình thu thập dữ liệu, các nhà nghiên cứu cũng sẽ cần bảo vệ quyền riêng tư của bệnh nhân và yêu cầu đồng ý sử dụng dữ liệu bệnh nhân để đào tạo AI.
Vấn đề đồng ý xuất hiện trở lại khi mô hình AI đã sẵn sàng để thử nghiệm lâm sàng thử nghiệm với bệnh nhân thực. Các bệnh nhân cần được thông báo rằng bạn đang sử dụng thuật toán trên chúng, và liệu AI có hoàn toàn hướng dẫn chăm sóc hay chăm sóc một phần hướng dẫn không? Cohen hỏi. Thực sự có rất ít suy nghĩ về những câu hỏi này.
Ghassemi cũng ủng hộ việc thường xuyên kiểm tra các thuật toán AI để đảm bảo tính công bằng và chính xác giữa các nhóm người khác nhau dựa trên sắc tộc, giới tính, tuổi tác và bảo hiểm y tế. Điều đó quan trọng được đưa ra làm thế nào các ứng dụng AI trong các lĩnh vực khác đã cho thấy rằng chúng có thể dễ dàng nhận được các thành kiến .
Sau tất cả các bước đó, người dân và các công ty cung cấp dịch vụ AI sẽ cần phải phân loại trách nhiệm pháp lý trong trường hợp có những sai lầm không thể tránh khỏi. Và không giống như hầu hết các thiết bị y tế, thường chỉ cần một phê duyệt theo quy định, các dịch vụ AI có thể yêu cầu xem xét bổ sung bất cứ khi nào chúng học được từ dữ liệu mới.
Một số cơ quan quản lý đang xem xét lại cách đánh giá AI chăm sóc sức khỏe. Vào tháng Tư, Cơ quan Quản lý Thực phẩm và Dược phẩm Hoa Kỳ (FDA) đã phát hành một bài thảo luận để nhận phản hồi công khai về cách cập nhật đánh giá quy định có liên quan. Những gì chúng tôi đang tiếp tục cố gắng làm ở đây là quay trở lại mục tiêu của chúng tôi là cho mọi người truy cập vào các công nghệ, nhưng chúng tôi cũng nhận ra rằng các phương pháp hiện tại của chúng tôi không hoạt động tốt, ông nói, Bakul Patel, giám đốc về sức khỏe kỹ thuật số tại FDA. Đó là lý do tại sao chúng ta cần xem xét một cách tiếp cận toàn diện về toàn bộ vòng đời sản phẩm.
Ngoài các vấn đề xung quanh quyền truy cập, quyền riêng tư và quy định, cũng không rõ ai là người được hưởng lợi nhiều nhất từ các dịch vụ chăm sóc sức khỏe AI. Hiện đã có sự chênh lệch về chăm sóc sức khỏe: Theo Ngân hàng Thế giới và Tổ chức Y tế Thế giới, một nửa dân số toàn cầu thiếu quyền truy cập vào các dịch vụ chăm sóc sức khỏe thiết yếu và gần 100 triệu người bị đẩy vào tình trạng nghèo đói cùng cực. Tùy thuộc vào cách nó được triển khai, AI có thể cải thiện những bất bình đẳng này, hoặc làm cho chúng tồi tệ hơn.
Một số cuộc thảo luận về AI đã nói về cách dân chủ hóa chăm sóc sức khỏe và tôi muốn thấy điều đó xảy ra, chuyên gia Effy Vayena, một nhà sinh học tại Viện Công nghệ Liên bang ở Thụy Sĩ cho biết.
Nếu bạn chỉ kết thúc với một dịch vụ fancier cho những người có khả năng chăm sóc sức khỏe tốt, thì cô ấy nói thêm, tôi không chắc đó có phải là sự chuyển đổi mà chúng tôi đang tìm kiếm hay không.
Làm thế nào tất cả diễn ra tùy thuộc vào tầm nhìn khác nhau để thực hiện AI. Sự phát triển ban đầu đã tập trung vào các ứng dụng chẩn đoán rất hẹp, chẳng hạn như xem xét hình ảnh để tìm gợi ý về ung thư da hoặc nấm móng tay, hoặc đọc tia X ngực. Nhưng những nỗ lực gần đây đã cố gắng chẩn đoán nhiều tình trạng sức khỏe cùng một lúc.
Vào tháng 8 năm 2018 , Bệnh viện Mắt Moorfields ở Vương quốc Anh và DeepMind, phòng thí nghiệm AI có trụ sở tại London do công ty mẹ của Google là Alphabet, cho thấy họ đã đào tạo thành công một hệ thống AI để xác định hơn 50 bệnh về mắt, phù hợp với hiệu suất của các chuyên gia hàng đầu. Những tham vọng tương tự đã thúc đẩy nghiên cứu ở San Diego và Quảng Châu, đào tạo AI để chẩn đoán các bệnh thường gặp ở trẻ em. Loại thứ hai không tốt trong chẩn đoán bệnh nhi so với các bác sĩ cao cấp, nhưng nó hoạt động tốt hơn một số bác sĩ cơ sở.
Các hệ thống AI như vậy có thể không cần vượt trội so với các chuyên gia giỏi nhất của con người để giúp dân chủ hóa chăm sóc sức khỏe mà chỉ cần mở rộng quyền truy cập vào các tiêu chuẩn y tế hiện tại. Tuy nhiên, cho đến nay, nhiều ứng dụng AI được đề xuất tập trung vào việc cải thiện tiêu chuẩn chăm sóc hiện tại thay vì truyền bá dịch vụ chăm sóc sức khỏe giá cả phải chăng, Cohen nói: Dân chủ hóa những gì chúng ta đã có sẽ là một cú hích lớn hơn nhiều so với cải thiện những gì chúng ta có khu vực."
Accdvisor, một công ty tư vấn, dự đoán rằng các ứng dụng AI hàng đầu có thể tiết kiệm cho nền kinh tế Mỹ 150 tỷ đô la mỗi năm vào năm 2026. Nhưng không rõ liệu các bệnh nhân và hệ thống chăm sóc sức khỏe được bổ sung bằng tiền thuế của người dân sẽ được hưởng lợi, hoặc nếu nhiều tiền hơn sẽ chảy vào các công ty công nghệ, nhà cung cấp chăm sóc sức khỏe, và công ty bảo hiểm.
Câu hỏi về ai sẽ lái xe này và ai sẽ trả tiền cho điều này là một câu hỏi quan trọng, ông Kohane nói. Một cái gì đó hơi ảo giác về tất cả các kế hoạch kinh doanh đó là họ nghĩ rằng họ biết nó sẽ hoạt động ra sao.
Ngay cả khi các dịch vụ AI đưa ra khuyến nghị tiết kiệm chi phí, các bác sĩ của con người và các tổ chức chăm sóc sức khỏe có thể ngần ngại nhận lời khuyên về AI nếu họ kiếm được ít tiền hơn, Kohane cảnh báo. Điều đó nói lên vấn đề mang tính hệ thống lớn hơn của các công ty bảo hiểm y tế Hoa Kỳ bằng cách sử dụng mô hình tính phí dịch vụ thường thưởng cho các bác sĩ và bệnh viện để thêm các xét nghiệm và thủ tục y tế, ngay cả khi họ không cần thiết.
Có một cơ hội AI khác có thể cải thiện chất lượng chăm sóc trong khi vẫn để lại hầu hết các chẩn đoán y tế trong tay các bác sĩ. Trong cuốn sách năm 2019 , y học Deep Deep , giáo sư Eric Topol, giám đốc và người sáng lập Viện nghiên cứu dịch thuật Scripps, nói về việc tạo ra một trợ lý y tế siêu tốc Siri, một trợ lý AI để ghi chú về sự tương tác giữa bác sĩ và bệnh nhân của họ, nhập những ghi chú đó vào hồ sơ sức khỏe điện tử, và nhắc nhở các bác sĩ hỏi về các phần có liên quan trong lịch sử của bệnh nhân.
Khát vọng của tôi là chúng tôi giải nén công việc của các bác sĩ và thoát khỏi vai trò thư ký dữ liệu của họ, giúp bệnh nhân chịu trách nhiệm nhiều hơn và khóa dữ liệu để không mất quá nhiều thời gian để xem xét mọi thứ, từ Topol nói.
Người trợ lý y tế hay người ghi chép không bao giờ quên, ông nói, Kohane, sẽ yêu cầu AI có thể tự động theo dõi và phiên âm nhiều giọng nói giữa bác sĩ và bệnh nhân. Ông ủng hộ ý tưởng của Topol nhưng cho biết thêm rằng hầu hết các ứng dụng AI trong phát triển dường như không tập trung vào các trợ lý như vậy. Tuy nhiên, một số công ty như Saykara và DeepScribe đã phát triển các dịch vụ dọc theo các dòng này và thậm chí Google đã hợp tác với Đại học Stanford để thử nghiệm công nghệ scribe kỹ thuật số tương tự.
Một trợ lý AI nghe có vẻ ít thú vị hơn một bác sĩ AI, nhưng nó có thể giải phóng các bác sĩ dành nhiều thời gian hơn cho bệnh nhân của họ và cải thiện chất lượng chăm sóc tổng thể. Các bác sĩ gia đình đặc biệt thường dành hơn một nửa số ngày làm việc của họ để nhập dữ liệu vào hồ sơ sức khỏe điện tử. Một yếu tố chính đằng sau sự kiệt sức về thể chất và tinh thần , gây hậu quả nghiêm trọng , bao gồm cả cái chết của bệnh nhân.
Trớ trêu thay, hồ sơ sức khỏe điện tử được cho là để cải thiện chăm sóc y tế và cắt giảm chi phí bằng cách làm cho thông tin bệnh nhân dễ tiếp cận hơn. Bây giờ Topol và nhiều chuyên gia khác chỉ ra hồ sơ sức khỏe điện tử như một câu chuyện cảnh báo cho sự cường điệu hiện nay xung quanh AI trong y học và chăm sóc sức khỏe.
Việc thực hiện các hồ sơ sức khỏe điện tử đã tạo ra một hệ thống chắp vá trải rộng giữa hàng trăm nhà cung cấp tư nhân, chủ yếu thành công trong việc cô lập dữ liệu bệnh nhân và khiến nó không thể truy cập được cho cả bác sĩ và bệnh nhân. Nếu lịch sử là bất kỳ hướng dẫn nào, nhiều công ty công nghệ và tổ chức chăm sóc sức khỏe sẽ cảm thấy khó khăn khi đi theo những con đường tương tự bằng cách tích trữ dữ liệu y tế cho các hệ thống AI của riêng họ.
Một cách xoay quanh vấn đề này có thể là sử dụng một hệ thống trí tuệ tập thể tổng hợp và xếp hạng chuyên môn y tế từ các nguồn khác nhau, Komarneni, người đang thử phương pháp này với Human Dx nói. Được hỗ trợ bởi các tổ chức y tế lớn như Hiệp hội Y khoa Hoa Kỳ, Human Dx đã xây dựng một nền tảng trực tuyến để tư vấn về dịch vụ cộng đồng từ hàng ngàn bác sĩ về các trường hợp y tế cụ thể. Về mặt lý thuyết, Komarneni hy vọng rằng một nền tảng như vậy có thể, một ngày nào đó sẽ bao gồm lời khuyên chẩn đoán từ nhiều dịch vụ AI khác nhau.
Nói theo cách tương tự như nhiều chuyên gia về con người có thể nhìn vào trường hợp của bạn trong tương lai, không có lý do gì mà nhiều AI không thể làm điều đó, theo ông Kom Komeni.
Khi các bác sĩ chờ đợi người trợ giúp AI của họ, các dự án cung cấp dịch vụ cộng đồng như Human Dx, chắc chắn có thể dẫn đến chẩn đoán cải thiện hoặc thậm chí cải thiện các khuyến nghị cho trị liệu, theo ông Topol, người đồng tác giả một nghiên cứu năm 2018 trên nền tảng tương tự có tên Medscape Consulting. Bài viết đã kết luận trí thông minh của con người có thể là một chiến lược cạnh tranh hoặc bổ sung của người Viking đối với AI trong y học.
Nhưng nếu các dịch vụ AI vượt qua tất cả các thử nghiệm và kiểm tra trong thế giới thực, chúng có thể trở thành đối tác quan trọng đối với con người trong việc định hình lại chăm sóc sức khỏe hiện đại.
Có những thứ mà máy móc sẽ không bao giờ làm tốt và sau đó là những thứ khác, nơi chúng sẽ vượt xa những gì con người có thể làm, chanh Topol nói. Vì vậy, khi bạn kết hợp hai thứ lại với nhau, đó là một gói rất mạnh.
Câu chuyện này ban đầu được xuất bản trên tạp chí Undark và đã được tái bản ở đây với sự cho phép.
Bạn có thể được tha thứ vì nghĩ rằng AI sẽ sớm thay thế các bác sĩ của con người dựa trên các tiêu đề như, Bác sĩ AI sẽ gặp bạn ngay bây giờ , Bác sĩ tương lai của bạn có thể không phải là con người , Hồi giáo và AI Đây chỉ là bác sĩ của con người trong cuộc kiểm tra lâm sàng . Nhưng các chuyên gia nói rằng thực tế là một sự hợp tác nhiều hơn là một vụ lật đổ: Bệnh nhân có thể sớm tìm thấy cuộc sống của họ một phần trong tay các dịch vụ AI hoạt động cùng với các bác sĩ lâm sàng của con người.
Không thiếu sự lạc quan về AI trong cộng đồng y tế. Nhưng nhiều người cũng cảnh báo sự cường điệu xung quanh AI vẫn chưa được hiện thực hóa trong môi trường lâm sàng thực sự. Cũng có những tầm nhìn khác nhau về cách các dịch vụ AI có thể tạo ra tác động lớn nhất. Và vẫn chưa rõ liệu AI sẽ cải thiện cuộc sống của bệnh nhân hay chỉ là điểm mấu chốt cho các công ty, tổ chức chăm sóc sức khỏe và công ty bảo hiểm ở Thung lũng Silicon.
Tôi nghĩ rằng tất cả các bệnh nhân của chúng tôi thực sự muốn các công nghệ AI được đưa ra để khắc phục những điểm yếu trong hệ thống chăm sóc sức khỏe, nhưng chúng tôi cần thực hiện nó theo cách cường điệu không phải ở Thung lũng Silicon, theo ông Isaac Kohane, một nhà nghiên cứu tin học y sinh tại Harvard Trường y tế.
Nếu AI hoạt động như đã hứa, nó có thể dân chủ hóa chăm sóc sức khỏe bằng cách tăng cường truy cập cho các cộng đồng không được bảo vệ và giảm chi phí cho một lợi ích ở Hoa Kỳ, vốn xếp hạng kém trong nhiều biện pháp y tế mặc dù chi phí chăm sóc sức khỏe trung bình hàng năm là 10.739 đô la mỗi người. Các hệ thống AI có thể giải phóng các bác sĩ làm việc quá sức và giảm nguy cơ mắc các lỗi y tế có thể giết chết hàng chục nghìn người, nếu không nói là hàng trăm nghìn bệnh nhân Mỹ mỗi năm. Và ở nhiều quốc gia có tình trạng thiếu bác sĩ quốc gia, chẳng hạn như Trung Quốc, nơi các khoa ngoại trú của bệnh viện đô thị quá đông có thể thấy tới 10.000 người mỗi ngày, những công nghệ như vậy không cần độ chính xác hoàn hảo để chứng minh sự hữu ích.
Nhưng các nhà phê bình chỉ ra rằng tất cả những lời hứa đó có thể tan biến nếu việc vội vàng thực hiện AI chà đạp quyền riêng tư của bệnh nhân, bỏ qua những thành kiến và hạn chế hoặc không triển khai các dịch vụ theo cách cải thiện kết quả sức khỏe cho hầu hết mọi người.
Jay Cũng giống như cách mà các công nghệ có thể thu hẹp sự chênh lệch, chúng có thể làm trầm trọng thêm sự chênh lệch, ông Jayanth Komarneni, người sáng lập và chủ tịch của Dự án Chẩn đoán Con người (Human Dx), một tập đoàn lợi ích công cộng tập trung vào chuyên môn y tế. Không có gì có khả năng làm trầm trọng thêm sự chênh lệch như AI.
Ngày nay , các kỹ thuật AI phổ biến nhất là học máy và em họ của nó, học sâu. Không giống như các chương trình máy tính tuân theo các quy tắc được viết bởi con người, cả thuật toán học máy và học sâu đều có thể nhìn vào một tập dữ liệu, học từ nó và đưa ra dự đoán mới. Học sâu đặc biệt có thể đưa ra dự đoán ấn tượng bằng cách khám phá các mẫu dữ liệu mà mọi người có thể bỏ lỡ.
Nhưng để tận dụng tối đa những dự đoán này trong chăm sóc sức khỏe, AI không thể đi một mình. Thay vào đó, con người vẫn phải giúp đưa ra quyết định có thể có hậu quả lớn về sức khỏe và tài chính. Bởi vì các hệ thống AI thiếu trí thông minh chung của con người, chúng có thể đưa ra những dự đoán khó hiểu có thể gây hại nếu các bác sĩ và bệnh viện không nghi ngờ theo dõi chúng.
Ví dụ kinh điển đến từ Rich Caruana, một nhà nghiên cứu cao cấp tại Microsoft Research, như ông đã giải thích trên tạp chí Kỹ thuật và Công nghệ năm ngoái. Vào những năm 1990, Caruana đã làm việc trong một dự án đã thử sử dụng một hình thức học máy trước đó để dự đoán liệu một bệnh nhân bị viêm phổi là một trường hợp rủi ro thấp hay nguy cơ cao. Nhưng rắc rối đã nảy sinh khi mô hình học máy cố gắng dự đoán trường hợp bệnh nhân hen suyễn, những người có nguy cơ cao vì khó thở từ trước khiến họ dễ bị viêm phổi. Mô hình đã xác định những bệnh nhân này có nguy cơ thấp, cần can thiệp nhỏ thay vì nhập viện, một điều mà một chuyên gia về con người sẽ không bao giờ làm được.
Nếu bạn theo mô hình một cách mù quáng, theo ông Kenneth Jung, một nhà khoa học nghiên cứu tại Trung tâm nghiên cứu tin học y sinh Stanford, thì bạn đã bị ho. Bởi vì người mẫu đang nói: 'Ồ, đứa trẻ bị hen suyễn này đến và chúng bị viêm phổi, nhưng chúng tôi không cần phải lo lắng về chúng, và chúng tôi sẽ gửi chúng về nhà bằng một số loại thuốc kháng sinh.'
Dự đoán học sâu cũng có thể thất bại nếu lần đầu tiên họ gặp phải các điểm dữ liệu bất thường, chẳng hạn như các trường hợp y tế duy nhất hoặc khi họ tìm hiểu các mẫu đặc biệt trong các bộ dữ liệu cụ thể không khái quát tốt cho các trường hợp y tế mới.
Các dự đoán AI làm tốt nhất khi được áp dụng cho các tập dữ liệu lớn, chẳng hạn như ở Trung Quốc, có lợi thế trong việc đào tạo các hệ thống AI nhờ truy cập vào các quần thể lớn và dữ liệu bệnh nhân. Vào tháng 2, tạp chí Y học Tự nhiên đã công bố một nghiên cứu từ các nhà nghiên cứu có trụ sở tại San Diego và Quảng Châu, Trung Quốc, cho thấy có nhiều hứa hẹn trong chẩn đoán nhiều bệnh phổ biến ở trẻ em dựa trên hồ sơ sức khỏe điện tử của hơn 567.000 trẻ em.
Nhưng ngay cả các tập dữ liệu lớn cũng có thể gây ra vấn đề, đặc biệt là khi các nhà nghiên cứu cố gắng áp dụng thuật toán của họ cho một dân số mới. Trong nghiên cứu Y học Tự nhiên , tất cả nửa triệu bệnh nhân đến từ một trung tâm y tế ở Quảng Châu, điều đó có nghĩa là không có gì đảm bảo các bài học chẩn đoán học được từ đào tạo về bộ dữ liệu đó sẽ áp dụng cho các trường hợp nhi khoa ở nơi khác. Mỗi trung tâm y tế có thể thu hút một nhóm bệnh nhân duy nhất của riêng mình, một bệnh viện nổi tiếng với trung tâm tim mạch, có thể thu hút các bệnh tim nghiêm trọng hơn. Và những phát hiện từ một bệnh viện Quảng Châu chủ yếu thu hút các bệnh nhân dân tộc Trung Quốc có thể không dịch sang một bệnh nhân ở Thượng Hải với số lượng bệnh nhân không phải là người nước ngoài, không phải người Trung Quốc.
(CAPTION: Trong Cuộc nói chuyện TEDx 2017 này, YAMini Kundu của Bệnh viện Johns Hopkins giải thích cách các công cụ AI có khả năng lượm lặt được nhiều hơn từ hình ảnh y tế so với các bác sĩ có thể chỉ bao gồm dự đoán bệnh trước khi bệnh nhân xuất hiện các triệu chứng.)
Phép ngoại suy này sẽ chứng minh khó khăn trong các tình huống khác. Ví dụ, Marzyeh Ghassemi, một nhà khoa học máy tính và kỹ sư y sinh tại Đại học Toronto, nói rằng bạn có 40.000 bệnh nhân ICU tại Trung tâm Y tế Beth Israel Deaconess chỉ là một bệnh viện trong một thành phố. Và vì vậy tôi có tất cả những bài báo đã thực hiện dự đoán với dữ liệu này. Điều đó có làm việc với một bệnh viện khác ở Boston không? Có lẽ. Nó làm việc cho một bệnh viện ở một tiểu bang khác? Nó sẽ làm việc ở nước khác? Chúng tôi không biết.
Các mô hình AI đáng ghét có thể không hoạt động trong mọi trường hợp, Ghassemi nghĩ rằng công nghệ này vẫn đáng để khám phá. Tôi rất thích dùng những mô hình này từ băng ghế đến đầu giường, cô ấy nói, nhưng với những bước phòng ngừa rất tích cực.
Những bước cần phải tồn tại trong suốt quá trình phát triển và triển khai AI, I. Glenn Cohen, giáo sư luật tại Đại học Harvard và là người lãnh đạo Dự án về Y học chính xác, Trí tuệ nhân tạo và Luật. Điều này có thể liên quan đến việc xác minh tính chính xác và minh bạch của các dự đoán AI. Và trong quá trình thu thập dữ liệu, các nhà nghiên cứu cũng sẽ cần bảo vệ quyền riêng tư của bệnh nhân và yêu cầu đồng ý sử dụng dữ liệu bệnh nhân để đào tạo AI.
Vấn đề đồng ý xuất hiện trở lại khi mô hình AI đã sẵn sàng để thử nghiệm lâm sàng thử nghiệm với bệnh nhân thực. Các bệnh nhân cần được thông báo rằng bạn đang sử dụng thuật toán trên chúng, và liệu AI có hoàn toàn hướng dẫn chăm sóc hay chăm sóc một phần hướng dẫn không? Cohen hỏi. Thực sự có rất ít suy nghĩ về những câu hỏi này.
Ghassemi cũng ủng hộ việc thường xuyên kiểm tra các thuật toán AI để đảm bảo tính công bằng và chính xác giữa các nhóm người khác nhau dựa trên sắc tộc, giới tính, tuổi tác và bảo hiểm y tế. Điều đó quan trọng được đưa ra làm thế nào các ứng dụng AI trong các lĩnh vực khác đã cho thấy rằng chúng có thể dễ dàng nhận được các thành kiến .
Sau tất cả các bước đó, người dân và các công ty cung cấp dịch vụ AI sẽ cần phải phân loại trách nhiệm pháp lý trong trường hợp có những sai lầm không thể tránh khỏi. Và không giống như hầu hết các thiết bị y tế, thường chỉ cần một phê duyệt theo quy định, các dịch vụ AI có thể yêu cầu xem xét bổ sung bất cứ khi nào chúng học được từ dữ liệu mới.
Một số cơ quan quản lý đang xem xét lại cách đánh giá AI chăm sóc sức khỏe. Vào tháng Tư, Cơ quan Quản lý Thực phẩm và Dược phẩm Hoa Kỳ (FDA) đã phát hành một bài thảo luận để nhận phản hồi công khai về cách cập nhật đánh giá quy định có liên quan. Những gì chúng tôi đang tiếp tục cố gắng làm ở đây là quay trở lại mục tiêu của chúng tôi là cho mọi người truy cập vào các công nghệ, nhưng chúng tôi cũng nhận ra rằng các phương pháp hiện tại của chúng tôi không hoạt động tốt, ông nói, Bakul Patel, giám đốc về sức khỏe kỹ thuật số tại FDA. Đó là lý do tại sao chúng ta cần xem xét một cách tiếp cận toàn diện về toàn bộ vòng đời sản phẩm.
Ngoài các vấn đề xung quanh quyền truy cập, quyền riêng tư và quy định, cũng không rõ ai là người được hưởng lợi nhiều nhất từ các dịch vụ chăm sóc sức khỏe AI. Hiện đã có sự chênh lệch về chăm sóc sức khỏe: Theo Ngân hàng Thế giới và Tổ chức Y tế Thế giới, một nửa dân số toàn cầu thiếu quyền truy cập vào các dịch vụ chăm sóc sức khỏe thiết yếu và gần 100 triệu người bị đẩy vào tình trạng nghèo đói cùng cực. Tùy thuộc vào cách nó được triển khai, AI có thể cải thiện những bất bình đẳng này, hoặc làm cho chúng tồi tệ hơn.
Một số cuộc thảo luận về AI đã nói về cách dân chủ hóa chăm sóc sức khỏe và tôi muốn thấy điều đó xảy ra, chuyên gia Effy Vayena, một nhà sinh học tại Viện Công nghệ Liên bang ở Thụy Sĩ cho biết.
Nếu bạn chỉ kết thúc với một dịch vụ fancier cho những người có khả năng chăm sóc sức khỏe tốt, thì cô ấy nói thêm, tôi không chắc đó có phải là sự chuyển đổi mà chúng tôi đang tìm kiếm hay không.
Làm thế nào tất cả diễn ra tùy thuộc vào tầm nhìn khác nhau để thực hiện AI. Sự phát triển ban đầu đã tập trung vào các ứng dụng chẩn đoán rất hẹp, chẳng hạn như xem xét hình ảnh để tìm gợi ý về ung thư da hoặc nấm móng tay, hoặc đọc tia X ngực. Nhưng những nỗ lực gần đây đã cố gắng chẩn đoán nhiều tình trạng sức khỏe cùng một lúc.
Vào tháng 8 năm 2018 , Bệnh viện Mắt Moorfields ở Vương quốc Anh và DeepMind, phòng thí nghiệm AI có trụ sở tại London do công ty mẹ của Google là Alphabet, cho thấy họ đã đào tạo thành công một hệ thống AI để xác định hơn 50 bệnh về mắt, phù hợp với hiệu suất của các chuyên gia hàng đầu. Những tham vọng tương tự đã thúc đẩy nghiên cứu ở San Diego và Quảng Châu, đào tạo AI để chẩn đoán các bệnh thường gặp ở trẻ em. Loại thứ hai không tốt trong chẩn đoán bệnh nhi so với các bác sĩ cao cấp, nhưng nó hoạt động tốt hơn một số bác sĩ cơ sở.
Các hệ thống AI như vậy có thể không cần vượt trội so với các chuyên gia giỏi nhất của con người để giúp dân chủ hóa chăm sóc sức khỏe mà chỉ cần mở rộng quyền truy cập vào các tiêu chuẩn y tế hiện tại. Tuy nhiên, cho đến nay, nhiều ứng dụng AI được đề xuất tập trung vào việc cải thiện tiêu chuẩn chăm sóc hiện tại thay vì truyền bá dịch vụ chăm sóc sức khỏe giá cả phải chăng, Cohen nói: Dân chủ hóa những gì chúng ta đã có sẽ là một cú hích lớn hơn nhiều so với cải thiện những gì chúng ta có khu vực."
Accdvisor, một công ty tư vấn, dự đoán rằng các ứng dụng AI hàng đầu có thể tiết kiệm cho nền kinh tế Mỹ 150 tỷ đô la mỗi năm vào năm 2026. Nhưng không rõ liệu các bệnh nhân và hệ thống chăm sóc sức khỏe được bổ sung bằng tiền thuế của người dân sẽ được hưởng lợi, hoặc nếu nhiều tiền hơn sẽ chảy vào các công ty công nghệ, nhà cung cấp chăm sóc sức khỏe, và công ty bảo hiểm.
Câu hỏi về ai sẽ lái xe này và ai sẽ trả tiền cho điều này là một câu hỏi quan trọng, ông Kohane nói. Một cái gì đó hơi ảo giác về tất cả các kế hoạch kinh doanh đó là họ nghĩ rằng họ biết nó sẽ hoạt động ra sao.
Ngay cả khi các dịch vụ AI đưa ra khuyến nghị tiết kiệm chi phí, các bác sĩ của con người và các tổ chức chăm sóc sức khỏe có thể ngần ngại nhận lời khuyên về AI nếu họ kiếm được ít tiền hơn, Kohane cảnh báo. Điều đó nói lên vấn đề mang tính hệ thống lớn hơn của các công ty bảo hiểm y tế Hoa Kỳ bằng cách sử dụng mô hình tính phí dịch vụ thường thưởng cho các bác sĩ và bệnh viện để thêm các xét nghiệm và thủ tục y tế, ngay cả khi họ không cần thiết.
Có một cơ hội AI khác có thể cải thiện chất lượng chăm sóc trong khi vẫn để lại hầu hết các chẩn đoán y tế trong tay các bác sĩ. Trong cuốn sách năm 2019 , y học Deep Deep , giáo sư Eric Topol, giám đốc và người sáng lập Viện nghiên cứu dịch thuật Scripps, nói về việc tạo ra một trợ lý y tế siêu tốc Siri, một trợ lý AI để ghi chú về sự tương tác giữa bác sĩ và bệnh nhân của họ, nhập những ghi chú đó vào hồ sơ sức khỏe điện tử, và nhắc nhở các bác sĩ hỏi về các phần có liên quan trong lịch sử của bệnh nhân.
Khát vọng của tôi là chúng tôi giải nén công việc của các bác sĩ và thoát khỏi vai trò thư ký dữ liệu của họ, giúp bệnh nhân chịu trách nhiệm nhiều hơn và khóa dữ liệu để không mất quá nhiều thời gian để xem xét mọi thứ, từ Topol nói.
Người trợ lý y tế hay người ghi chép không bao giờ quên, ông nói, Kohane, sẽ yêu cầu AI có thể tự động theo dõi và phiên âm nhiều giọng nói giữa bác sĩ và bệnh nhân. Ông ủng hộ ý tưởng của Topol nhưng cho biết thêm rằng hầu hết các ứng dụng AI trong phát triển dường như không tập trung vào các trợ lý như vậy. Tuy nhiên, một số công ty như Saykara và DeepScribe đã phát triển các dịch vụ dọc theo các dòng này và thậm chí Google đã hợp tác với Đại học Stanford để thử nghiệm công nghệ scribe kỹ thuật số tương tự.
Một trợ lý AI nghe có vẻ ít thú vị hơn một bác sĩ AI, nhưng nó có thể giải phóng các bác sĩ dành nhiều thời gian hơn cho bệnh nhân của họ và cải thiện chất lượng chăm sóc tổng thể. Các bác sĩ gia đình đặc biệt thường dành hơn một nửa số ngày làm việc của họ để nhập dữ liệu vào hồ sơ sức khỏe điện tử. Một yếu tố chính đằng sau sự kiệt sức về thể chất và tinh thần , gây hậu quả nghiêm trọng , bao gồm cả cái chết của bệnh nhân.
Trớ trêu thay, hồ sơ sức khỏe điện tử được cho là để cải thiện chăm sóc y tế và cắt giảm chi phí bằng cách làm cho thông tin bệnh nhân dễ tiếp cận hơn. Bây giờ Topol và nhiều chuyên gia khác chỉ ra hồ sơ sức khỏe điện tử như một câu chuyện cảnh báo cho sự cường điệu hiện nay xung quanh AI trong y học và chăm sóc sức khỏe.
Việc thực hiện các hồ sơ sức khỏe điện tử đã tạo ra một hệ thống chắp vá trải rộng giữa hàng trăm nhà cung cấp tư nhân, chủ yếu thành công trong việc cô lập dữ liệu bệnh nhân và khiến nó không thể truy cập được cho cả bác sĩ và bệnh nhân. Nếu lịch sử là bất kỳ hướng dẫn nào, nhiều công ty công nghệ và tổ chức chăm sóc sức khỏe sẽ cảm thấy khó khăn khi đi theo những con đường tương tự bằng cách tích trữ dữ liệu y tế cho các hệ thống AI của riêng họ.
Một cách xoay quanh vấn đề này có thể là sử dụng một hệ thống trí tuệ tập thể tổng hợp và xếp hạng chuyên môn y tế từ các nguồn khác nhau, Komarneni, người đang thử phương pháp này với Human Dx nói. Được hỗ trợ bởi các tổ chức y tế lớn như Hiệp hội Y khoa Hoa Kỳ, Human Dx đã xây dựng một nền tảng trực tuyến để tư vấn về dịch vụ cộng đồng từ hàng ngàn bác sĩ về các trường hợp y tế cụ thể. Về mặt lý thuyết, Komarneni hy vọng rằng một nền tảng như vậy có thể, một ngày nào đó sẽ bao gồm lời khuyên chẩn đoán từ nhiều dịch vụ AI khác nhau.
Nói theo cách tương tự như nhiều chuyên gia về con người có thể nhìn vào trường hợp của bạn trong tương lai, không có lý do gì mà nhiều AI không thể làm điều đó, theo ông Kom Komeni.
Khi các bác sĩ chờ đợi người trợ giúp AI của họ, các dự án cung cấp dịch vụ cộng đồng như Human Dx, chắc chắn có thể dẫn đến chẩn đoán cải thiện hoặc thậm chí cải thiện các khuyến nghị cho trị liệu, theo ông Topol, người đồng tác giả một nghiên cứu năm 2018 trên nền tảng tương tự có tên Medscape Consulting. Bài viết đã kết luận trí thông minh của con người có thể là một chiến lược cạnh tranh hoặc bổ sung của người Viking đối với AI trong y học.
Nhưng nếu các dịch vụ AI vượt qua tất cả các thử nghiệm và kiểm tra trong thế giới thực, chúng có thể trở thành đối tác quan trọng đối với con người trong việc định hình lại chăm sóc sức khỏe hiện đại.
Có những thứ mà máy móc sẽ không bao giờ làm tốt và sau đó là những thứ khác, nơi chúng sẽ vượt xa những gì con người có thể làm, chanh Topol nói. Vì vậy, khi bạn kết hợp hai thứ lại với nhau, đó là một gói rất mạnh.
Nhận xét
Đăng nhận xét