Google запустил ИИ-искателя багов: Первые 20 уязвимостей уже обнаружены

Продукт, разработанный специалистами DeepMind и Project Zero, продемонстрировал свою эффективность в обнаружении уязвимостей в программных продуктах. В частности, были выявлены ошибки в таких известных проектах, как библиотеки FFmpeg и ImageMagick.

Детальная информация о выявленных уязвимостях не разглашается до момента выпуска соответствующих патчей. Однако, компания Google подчёркивает, что все обнаруженные проблемы были идентифицированы и верифицированы с использованием алгоритмов искусственного интеллекта, без привлечения человеческого фактора.

Перед тем как отчёт об уязвимости направляется на рассмотрение, он проходит тщательную проверку со стороны квалифицированного специалиста, что позволяет минимизировать вероятность ложных срабатываний.

Вице-президент Google по вопросам безопасности, Хизер Эдкинс, отмечает данное достижение в области автоматизированного поиска уязвимостей. Подобные технологии уже находят применение в других компаниях, таких как RunSybil и XBOW, причём последняя компания заняла первое место в рейтинге HackerOne.

Тем не менее, следует отметить, что данная технология также имеет свои ограничения. В частности, существует риск возникновения так называемых «галлюцинаций» — ситуаций, когда искусственный интеллект генерирует отчёты о несуществующих проблемах.

Разработчики данной системы классифицируют такие отчёты как «мусор» и выражают обеспокоенность тем, что они могут отвлекать внимание от решения реальных задач в области информационной безопасности, пишет Ферра.