Компанія Johnson & Johnson зіткнулася з питаннями безпеки ШІ в медичному пристрої TruDi. Двоє пацієнтів подали позов після ускладнень, які могли виникнути через ШІ в системі, FDA отримала сотню скарг, пише Reuters.
Що сталося
У 2021 році Acclarent, підрозділ Johnson & Johnson, додав алгоритми машинного навчання до навігаційної системи TruDi, яку використовують ЛОР-хірурги. Компанія заявляла, що ШІ допоможе точніше орієнтуватися під час операцій.
Пристрій уже кілька років на ринку. До інтеграції ШІ FDA (Управління з продовольства та медикаментів США) отримало повідомлення про сім несправностей і один випадок травми пацієнта. Після оновлення з елементами штучного інтелекту кількість таких повідомлень зросла до щонайменше 100.
Згідно зі звітами FDA, між кінцем 2021 року та листопадом 2025 року зафіксовано щонайменше 10 випадків серйозних травм. У більшості з них навігаційна система нібито неправильно показувала положення інструментів під час операцій на голові.
Серед описаних інцидентів — витік спинномозкової рідини, прокол основи черепа та інсульти після пошкодження великої артерії. FDA наголошує, що ці звіти не доводять причинно-наслідковий зв’язок і можуть бути неповними.
Чому це цікаво
Сьогодні FDA дозволило використання щонайменше 1357 медичних пристроїв із елементами штучного інтелекту — це вдвічі більше, ніж до 2022 року. Окрім TruDi, питання виникали й до інших рішень: від кардіомоніторів до ультразвукових систем.
Дослідження університетів Джонса Гопкінса, Джорджтауна та Єля показало, що 60 ШІ-пристроїв були пов’язані зі 182 відкликаннями. Майже половина з них трапилася менш ніж за рік після схвалення FDA.
Двоє пацієнтів, які перенесли інсульти, подали позови в США. У них стверджується, що саме оновлення з використанням ШІ могло вплинути на безпеку системи TruDi.
Johnson & Johnson переадресувала запити компанії Integra LifeSciences, яка придбала Acclarent у 2024 році. У відповіді Integra заявила, що звіти FDA лише підтверджують використання системи під час операцій, де сталися побічні ефекти. Компанія наголосила, що не має «жодних перевірених доказів причинно-наслідкового зв’язку» між штучним інтелектом TruDi та травмами пацієнтів.