Врачи, полагающиеся на искусственный интеллект, стали на 20% хуже выявлять риски для здоровья, как показало исследование

Инструменты с поддержкой искусственного интеллекта стали повседневным ресурсом, который помогает повысить продуктивность и скорость работы в различных отраслях. Несмотря на заметные преимущества этих интеллектуальных систем, медицинские эксперты обеспокоены тем, что чрезмерная зависимость от искусственного интеллекта может приносить больше вреда, чем пользы.

Зависимость от искусственного интеллекта может снизить показатели выявления нарушений при колоноскопии

Недавнее исследование, проведенное среди 1 443 пациентов, показало, что эндоскописты, использующие агентов искусственного интеллекта во время колоноскопии, достигали более низкого уровня успеха в выявлении нарушений, когда эти инструменты не применялись. 

Результаты исследования, опубликованные в этом месяце в журнале Lancet Gastroenterology & Hepatology, показывают, что эти врачи достигли 28,4% успеха в выявлении потенциальных полипов с использованием технологии. Без этих инструментов этот показатель снизился до 22,4%, что составляет снижение на 20%.

Доктор Марцин Романчик, гастроэнтеролог из H-T. Medical Center в Тыхах, Польша, и автор исследования, выразил удивление результатами. Он указал на чрезмерную зависимость от искусственного интеллекта как на один из ключевых факторов, способствующих снижению показателей выявления.

Нас учили медицине по книгам и у наших наставников. Мы наблюдали за ними. Они говорили нам, что делать. А теперь есть некий искусственный объект, который подсказывает, что нам делать, куда смотреть, и на самом деле мы не знаем, как себя вести в такой ситуации.

Доктор Марцин Романчик

Этот результат не только отражает возможные негативные последствия чрезмерной зависимости от искусственного интеллекта, но и затрагивает эволюцию медицинской практики от аналоговой традиции к цифровой эпохе.

Опасения по поводу искусственного интеллекта на рабочем месте: рост продуктивности ценой когнитивных способностей

Помимо увеличения использования в медицинских учреждениях и офисах, автоматизация на базе искусственного интеллекта стала неотъемлемой частью рабочих процессов, и многие теперь обращаются к этим инструментам для повышения продуктивности. Goldman Sachs даже прогнозировал в 2023 году, что искусственный интеллект может повысить производительность труда на целых 25%.

Однако внедрение этих систем искусственного интеллекта также связано с определенными недостатками. На самом деле, исследования ведущих компаний выявили риски, связанные с чрезмерным доверием к этим инструментам. 

Публикация Microsoft и Carnegie Mellon University отметила, что искусственный интеллект помог повысить эффективность работы среди группы опрошенных работников умственного труда. Но при этом ослабил их навыки суждения и аналитические способности.

Чрезмерная зависимость от искусственного интеллекта в авиации: уроки катастрофы рейса Air France 447

Даже в авиационной отрасли, где безопасность имеет первостепенное значение, предыдущие данные свидетельствуют о том, что чрезмерная зависимость от автоматизации может поставить под угрозу безопасность. В 2009 году рейс Air France 447, следовавший из Рио-де-Жанейро в Париж, потерпел крушение в Атлантическом океане, в результате чего погибло более 228 человек.

Расследование позже показало, что автоматизированная система самолета вышла из строя. Это привело к тому, что автоматизированный «директор полета» передавал неверную информацию. И поскольку персонал рейса не был достаточно обучен ручному управлению, они полагались на автоматизированные функции самолета, вместо того чтобы внести необходимые коррективы.

Баланс между внедрением искусственного интеллекта и человеческой экспертизой в отраслях с высокими ставками

Линн Ву, доцент кафедры операций, информации и решений Wharton School Университета Пенсильвании, отметила, что эти инциденты являются проверкой на прочность для внедрения искусственного интеллекта в секторах, где критически важна безопасность людей. Ву объяснила, что при внедрении этих технологий отрасли должны следить за тем, чтобы работники правильно использовали эти инструменты.

Важно, чтобы мы извлекли уроки из истории авиации и предыдущего поколения автоматизации: искусственный интеллект действительно может повысить эффективность. Но в то же время мы должны сохранять эти критические навыки, чтобы, если искусственный интеллект не работает, мы знали, как взять управление на себя.

Линн Ву

Она добавила, что если люди утратят собственные навыки, искусственный интеллект также будет работать хуже. Для того чтобы искусственный интеллект совершенствовался, люди также должны постоянно совершенствовать себя.

Романчик также поддерживает использование искусственного интеллекта в медицине, отмечая, что «искусственный интеллект будет или уже является частью нашей жизни, нравится нам это или нет». Тем не менее, он подчеркнул необходимость понимать, как искусственный интеллект влияет на человеческое мышление, и призвал профессионалов определить наиболее эффективные способы его использования.