В нейросети Nvidia NeMo Framework найдена серьезная уязвимость

Корпорация Nvidia, дабы не отставать от конкурентов, начала производить продукты для технологий ИИ.

Компания имеет собственную нейросеть под названием NeMo Framework, которая является основой для генеративных систем искусственного интеллекта.

На днях стало известно, что в NeMo Framework имеется серьезная уязвимость. Исследователи безопасности из компании Robust Intelligence из Сан-Франциско сообщили, что установленные в системе нейросети ограничения можно обойти и получить доступ к персональным данным пользователей. Учитывая масштаб использования продуктов Nvidia, проблема более чем серьёзная.

По словам Ярона Сингера, профессора информатики Гарвардского университета и исполнительного директора Robust Intelligence, у ИИ «еще много подводных камней». Он отметил, что проблему уязвимости искусственного интеллекта необходимо учитывать.

Источник

Добавить комментарий

Кнопка «Наверх»