Shutterstock AI Generator/FOTODOM
5 принципов работы
искусственного интеллекта, по версии США
5 принципов работы искусственного интеллекта, по версии США
Поиск
Законодатели намерены снизить риски нарушения прав граждан из-за предвзятости ИИ-моделей.
Алгоритмы искусственного интеллекта, которые используются при принятии решений о найме и выдаче кредитов, могут быть необъективны и даже внедрять неравенство. Вопросы у экспертов вызывает и неконтролируемый сбор персональных данных в соцсетях, который ставит под угрозу неприкосновенность частной жизни.
В конце 2022 года Управление по научно-технической политике Белого дома, OSTP представило проект Билля о правах в сфере искусственного интеллекта. Это набор рекомендаций по созданию и применению решений на основе искусственного интеллекта.
В конце 2022 года Управление по научно-технической политике Белого дома, OSTP представило проект Билля о правах в сфере искусственного интеллекта. Это набор рекомендаций по созданию и применению решений на основе искусственного интеллекта.
Фото: Paper piper/Shutterstock/FOTODOM
Пять принципов работы с ИИ
Билль описывает пять общих принципов, которые рекомендуется применять при разработке и использовании ИИ.
Безопасность. Пользователи должны быть защищены от незаконного использования данных. Для этого в разработке систем ИИ должны участвовать независимые эксперты, а сами системы – проходить глубокое тестирование. Результаты тестов и отчеты о доработке несовершенных систем должны быть публичными.
Алгоритмическая дискриминация. При обучении ИИ необходимо проводить оценку качества информации. Данные не должны содержать предубеждений в отношении возраста, пола, расы, цвета кожи, религии, семейного положения и так далее.
Конфиденциальность данных. Каждый пользователь должен иметь контроль над личными данными, которые он генерирует в интернете, и знать, как они используются. Системы должны иметь высокий уровень защиты конфиденциальности, особенно в здравоохранении, образовании, финансах, правосудии и сфере занятости.
Информирование. Граждане должны знать, что компания использует автоматизированные системы на основе ИИ, и кто является их разработчиком. Об этом необходимо рассказывать понятным языком.
Альтернатива ИИ. Пользователи должны иметь возможность отказаться от автоматизированных систем и воспользоваться помощью человека. Если система ИИ выдаст результат, который пользователь захочет оспорить, разбирать конфликт обязан специалист, а не алгоритм.
Безопасность. Пользователи должны быть защищены от незаконного использования данных. Для этого в разработке систем ИИ должны участвовать независимые эксперты, а сами системы – проходить глубокое тестирование. Результаты тестов и отчеты о доработке несовершенных систем должны быть публичными.
Алгоритмическая дискриминация. При обучении ИИ необходимо проводить оценку качества информации. Данные не должны содержать предубеждений в отношении возраста, пола, расы, цвета кожи, религии, семейного положения и так далее.
Конфиденциальность данных. Каждый пользователь должен иметь контроль над личными данными, которые он генерирует в интернете, и знать, как они используются. Системы должны иметь высокий уровень защиты конфиденциальности, особенно в здравоохранении, образовании, финансах, правосудии и сфере занятости.
Информирование. Граждане должны знать, что компания использует автоматизированные системы на основе ИИ, и кто является их разработчиком. Об этом необходимо рассказывать понятным языком.
Альтернатива ИИ. Пользователи должны иметь возможность отказаться от автоматизированных систем и воспользоваться помощью человека. Если система ИИ выдаст результат, который пользователь захочет оспорить, разбирать конфликт обязан специалист, а не алгоритм.
Фото: Andrey Suslov/Shutterstock/FOTODOM
Штаты ограничивают искусственный интеллект
В США действует указ, который обязывает разработчиков предоставлять правительству данные о безопасности таких систем. Отдельные штаты принимают собственные нормативные акты.
Колорадо, например, принял закон для защиты потребителей от дискриминации. Он регулирует применение больших данных и прогнозных ИИ-моделей в страховых компаниях. В Нью-Йорке приняли закон, который требует от компаний уведомлять соискателей об использовании ИИ при найме.
На федеральном уровне рассматривают законопроект о защите данных и конфиденциальности, который в том числе затрагивает применение ИИ.
Колорадо, например, принял закон для защиты потребителей от дискриминации. Он регулирует применение больших данных и прогнозных ИИ-моделей в страховых компаниях. В Нью-Йорке приняли закон, который требует от компаний уведомлять соискателей об использовании ИИ при найме.
На федеральном уровне рассматривают законопроект о защите данных и конфиденциальности, который в том числе затрагивает применение ИИ.
Фото: Shutterstock AI Generator/FOTODOM
В России принята Национальная стратегия развития искусственного интеллекта
Альянс в сфере искусственного интеллекта утвердил документ в 2019 году на период до 2030 года. Ключевая идея – создать регуляторную среду, основанную на балансе интересов человека, общества, государства и разработчиков.
Регулирование ИИ поддерживается через введение экспериментальных правовых режимов. Сейчас их 14, и они затрагивают сферу здравоохранения, в частности телемедицину и разработку лекарств, а также использование беспилотного транспорта.
Кроме того, эксперты из Альянса в сфере искусственного интеллекта разработали Кодекс этики в сфере ИИ.
Регулирование ИИ поддерживается через введение экспериментальных правовых режимов. Сейчас их 14, и они затрагивают сферу здравоохранения, в частности телемедицину и разработку лекарств, а также использование беспилотного транспорта.
Кроме того, эксперты из Альянса в сфере искусственного интеллекта разработали Кодекс этики в сфере ИИ.
