AI Act предназначен для решения проблем с предвзятостью, конфиденциальностью и другими рисками от быстро развивающейся технологии. Он запрещает использование ИИ для обнаружения эмоций на рабочих местах и в школах, а также ограничивает его использование в некоторых ситуациях, например, при сортировке заявок на работу.
Однако проект вызвал опасения с момента достижения пробного соглашения после переговоров. Французское и немецкое правительства высказались против строгих идей по регулированию ИИ, опасаясь, что они нанесут ущерб европейским стартапам. Стратегическое сотрудничество Mistral с Microsoft вызвало беспокойство у некоторых законодателей.
Несмотря на это, Европейский парламент признал, что еще много работы впереди. Офис по ИИ будет ключевым исполнителем, обладая правом запрашивать информацию у разрабатывающих ИИ компаний и, возможно, запрещать их работу в ЕС.