ИИ принял подделки за жизнь и показал риск для космических миссий

Искусственный интеллект научили искать признаки жизни, но в тесте он с большой уверенностью принял подделки за живые системы. Работа Университета штата Мичиган показала, что такая ошибка может создать проблемы для будущих миссий, где автономные алгоритмы будут сами отбирать самые интересные данные с Марса и ледяных спутников.

В эксперименте модель сначала выглядела почти безошибочной: она различала цифровые организмы и неживые объекты в среде Avida с точностью 99,97%. Потом исследователи начали менять неживой код так, чтобы в нём оставались отдельные знакомые для алгоритма признаки, и система стала относить многие такие варианты к живым.

Вот в этом и проблема. Высокая точность на привычных данных ещё не значит, что модель справится в новых условиях. Она не «понимала» жизнь как биологическое явление, а цеплялась за статистические шаблоны, совпавшие с обучающей выборкой. Для космических миссий это особенно неприятная история: если автономный модуль назовёт находку «интересной», учёные потратят время и ресурсы на ложный след.

Поиск жизни в космосе и ошибка ИИ

Автономный поиск жизни уже стал реальной задачей для NASA и партнёров. Агентства не могут постоянно держать руку на каждом приборе с Земли, особенно когда речь идёт о далёких объектах и больших массивах данных, где решение нужно принимать на месте. Поэтому ИИ всё чаще используют как фильтр, который должен выделять наиболее перспективные образцы для дальнейшего анализа.

У этой истории есть и практическая сторона. NASA выделило $5 млн на проект по поиску признаков жизни в сложных химических данных, а в обучении таких систем планируют использовать не меньше 1 000 образцов. В набор войдут метеориты, горные породы, ископаемые остатки и живые организмы, а сами алгоритмы будут работать с данными приборов вроде масс-спектрометров, которые уже летают в космических миссиях.

При этом подход не сводится к простому делению на «живое» и «неживое». Исследователи считают, что модели нужно учить не только на современных организмах, но и на следах их существования — например, на ископаемых остатках и продуктах жизнедеятельности. И это логично: на Марсе или спутниках Юпитера и Сатурна никто не ждёт лабораторный образец с идеальными параметрами. Там скорее придётся разбирать косвенные сигналы, а именно они и сбивают алгоритмы с толку.

Похожее уже случалось и в других областях науки, где ИИ отлично проходит тесты, но начинает ошибаться на редких или специально изменённых примерах. Авторы работы из Университета штата Мичиган как раз поэтому считают, что нынешние методы ещё рано считать готовыми для автономного поиска жизни в космосе. Сначала такие системы должны научиться не только угадывать знакомые паттерны, но и замечать собственные ошибки на незнакомом материале.

Для NASA и других агентств это означает ещё одну проверку перед тем, как доверять ИИ решающие этапы анализа. Чем сложнее данные и чем дальше миссия от Земли, тем дороже обходится ложное срабатывание. И вот тут устойчивость к подделкам становится не менее важной, чем процент точности на учебной выборке.