Эксперты уверены, что ошибки ИИ могут серьезно навредить бизнесу и людям

Проблемы возникают во многих сферах обслуживания клиентов. Также, по словам Минаковой, ИИ способен блокировать аккаунты без объяснений. Ключевым вопросом в подобных случаях является определение ответственного лица за некорректную работу алгоритмов, влекущую негативные последствия для финансового положения, трудовой деятельности или репутации гражданина. Минакова отметила, что многие страны пересматривают подходы к регулированию ИИ и требуют прозрачности в решениях, принимаемых алгоритмами, а также предоставления людям возможности вмешательства в процессы.

В России также возникают шаги в направлении контроля и регулирования таких технологий. Закон о платформенной занятости требует, чтобы автоматические системы решений могли быть подвергнуты проверке и оспариванию. Это особенно важно для самозанятых и фрилансеров, зависимость доходов которых от цифровых платформ высока. Минакова подметила, что ИИ не должен действовать в полном одиночестве. Сейчас необходимо, чтобы контроль за алгоритмами осуществлял человек, а компании заранее прописывали свою ответственность за возможные ошибки или нарушения. В заключение она отметила, что ИИ не просто «умная кнопка», а система, допускающая ошибки, и именно поэтому за ней всегда должен следить человек.