Могут ли ошибаться умные нейросети
В ИЦАЭ искусственный интеллект включили в дискуссию.
Можно ли научить искусственный интеллект моделировать сложные биологические процессы, обсудили участники тематического вечера «Наука всегда кстати. Нейросети», который состоялся в Информационном центре по атомной энергии Челябинска.
Главным событием стала премьера научно-игрового ток-шоу сети ИЦАЭ «Ученые не против ИИ». Участники погрузились в секреты радиобиологии, дозиметрии и искусственного интеллекта в биологии и медицине. Фишка ток-шоу в том, что нейросеть Кванта как бы включилась в дискуссию. Она задавала вопросы, излагала свои версии, иногда ошибалась, а ученые и зрители пытались выяснить, в чем причина.
В качестве эксперта выступил Павел Шарагин, научный сотрудник научно-исследовательской лаборатории Южно-Уральского федерального научно-клинического центра медицинской биофизики ФМБА России. По его словам, чтобы описать воздействие радиации на организм, нужно брать в расчет не только переданную энергию, но и ее распределение, длительность облучения и особенности биосистемы. Искусственный интеллект попытался сразу выдать ответ, но оказалось, что такой однобокий подход машины некорректен и чреват ошибками.
Также ученый рассказал, почему при одинаковой дозе радиации могут быть разные результаты. Чувствительность к ней обусловлена типом клеток, скоростью их деления, способностью к восстановлению и другими факторами. Дело в том, что живой организм — сложнейший механизм, который по-разному реагирует на облучение.
«В радиобиологии число само по себе не дает готового ответа. Доза важна, но за ней всегда стоят условия: что именно облучалось, как была распределена энергия, сколько длилось воздействие и какие изменения остались в клетках», — заявил Павел Шарагин, добавив, что искусственный интеллект способен лишь помогать в анализе информации, но не заменит ученого.
Также зашел разговор о биодозиметрии — разделе науки, помогающем находить следы радиации по изменениям в организме на клеточном уровне. К примеру, по хромосомным нарушениям нельзя делать однозначный вывод, это только биологические маркеры. Виртуальный собеседник Кванта предложил свою классификацию изображений, а эксперты, проанализировав выводы ИИ, подвергли их сомнению.
Впрочем, нейросеть способна и сама постигать новые знания, это так называемое машинное обучение. Павел Шарагин привел примеры того, как она может ошибаться, если данные заданы неверно. В этом случае искусственный интеллект может, к примеру, принять фон, яркость картинки за научно значимый признак, поэтому его выводы должен проверять человек.
Под занавес встречи гости приняли участие в популярном квизе «Адреналин». Команды отвечали на вопросы, делая на них ставки и показывая свои знания.
Фото: Александры Звизжовой, предоставлено ИЦАЭ
Поделиться
