Google отключила AI-обзоры по ряду медицинских запросов после критики

Компания Google ограничила показ AI-обзоров в медицинских поисковых запросах после расследования о рисках неверной интерпретации данных.

Google изменила работу своей поисковой системы, отключив автоматические AI-обзоры для части медицинских запросов. Решение было принято после расследования, опубликованного изданием The Guardian, в котором указывалось на риск дезинформации пользователей при поиске информации о здоровье.

Ранее при вводе распространённых запросов, связанных с медицинскими анализами, поисковик показывал краткие автоматические сводки. Эти ответы формировались без учёта индивидуальных параметров человека, включая возраст, пол и другие особенности, что могло привести к неверной интерпретации результатов и ложному ощущению нормы или отклонений.

По информации портала «boda», в настоящее время AI-обзоры перестали появляться по ряду формулировок, касающихся нормальных показателей анализов крови и функций печени. При этом схожие по смыслу запросы в отдельных случаях всё ещё могут сопровождаться автоматическими подсказками, что говорит о неполном отключении функции.

В Google сообщили, что компания не комментирует каждый отдельный случай изменения работы поиска, но постоянно занимается корректировкой алгоритмов. Также было отмечено, что внутренняя проверка показала: часть спорных ответов основывалась на авторитетных источниках и не содержала прямых ошибок.

Эксперты в области здравоохранения считают принятые меры шагом в правильном направлении, однако указывают на более широкую проблему непоследовательности медицинских ответов, создаваемых ИИ. С учётом того, что такие обзоры занимают заметное место в поисковой выдаче, их влияние на восприятие информации остаётся значительным.