Австралийский ученый Лотти Тажури, эксперт в области геномики и молекулярной биологии, предупреждает: один человек, имеющий доступ к искусственному интеллекту, способен создать биологическую угрозу. При оценке безопасности таких технологий нельзя исходить из предположения, что все пользователи будут действовать ответственно, заявил он в интервью РИА Новости.
Тажури, доцент Университета Бонда и Университета Мердока, входит в Совет ученых полиции Дубая, занимающийся научным консультированием в сфере безопасности. Ранее он выступал на конференции TEDx.
"Дело не в том, сможет ли это сделать каждый. Достаточно одного или двух человек, которые попытаются это сделать и которых никто не остановит, чтобы создать немыслимое", — отметил ученый.
Ранее ученые Стэнфордского университета продемонстрировали возможность генеративного проектирования полных геномов жизнеспособных бактериофагов — вирусов, поражающих бактерии. Для этого они использовали модели искусственного интеллекта Evo 1 и Evo 2. В лаборатории были синтезированы и проверены около 300 созданных вариантов; 16 из них оказались жизнеспособными и могли поражать кишечную палочку E. coli.
"Больше всего меня беспокоят масштаб и скорость. ИИ может анализировать огромные объемы биологических данных, выявлять закономерности, выходящие за пределы человеческих возможностей, и ускорять проектирование и тестирование биологических систем", — пояснил Тажури.
Потенциальная опасность заключается не только в действиях отдельного исследователя, но и в резком увеличении числа людей и лабораторий, получающих доступ к подобным возможностям. "Опасность не просто в том, что может сделать один исследователь. Она в том, что все более мощная система может дать такие возможности тысячам исследователей, лабораторий и приложений", — добавил он.
Тажури считает, что при оценке рисков необходимо отказаться от идеалистических сценариев, предполагающих ответственное поведение всех пользователей. "Нужно думать о том, кто — или какая система ИИ — может сделать это без угрызений совести", — подчеркнул ученый.
Он также отметил, что с развитием синтетической биологии работа с генетическим материалом становится быстрее, дешевле и доступнее. Это снижает технические и финансовые барьеры для потенциального злоупотребления такими технологиями. "Технология уже существует, помощь ИИ уже существует", — заключил эксперт.
