Стандарты безопасности ИИ в Австралии: наставления для будущей политики

Австралия представляет необязательную стандартную рамку ИИ для помощи в формировании будущей политики

Австралия представила добровольные стандарты безопасности искусственного интеллекта, направленные на содействие этичному и ответственному использованию искусственного интеллекта, включающие десять ключевых принципов, которые касаются проблем с реализацией ИИ.

Руководящие принципы, выпущенные в среду поздним вечером, подчеркивают управление рисками, прозрачность, человеческий контроль и справедливость, чтобы обеспечить безопасную и справедливую работу систем искусственного интеллекта.

Хотя они не имеют юридической силы, стандарты страны ориентированы на международные рамки, в частности на те, что существуют в ЕС, и ожидается, что они будут направлять будущую политику.

Дин Лачека, вице-президент аналитик в Gartner, признал стандарты положительным шагом, но предупредил о вызовах соблюдения.

«Добровольный стандарт безопасности ИИ - это хороший первый шаг к тому, чтобы как государственные агентства, так и другие секторы промышленности получили уверенность в безопасном использовании ИИ», - сказал Лачека Decrypt.

«Эти...пределы безопасности - все хорошие практики для организаций, стремящихся расширить использование ИИ. Но усилия и навыки, необходимые для принятия этих пределов безопасности, не должны быть недооценены.

Стандарты требуют проведения процессов оценки рисков для выявления и минимизации потенциальных опасностей в системах искусственного интеллекта и обеспечения прозрачности в работе моделей ИИ.

Уделяется внимание человеческому контролю, чтобы предотвратить чрезмерную зависимость от автоматизированных систем, а справедливость является ключевым фокусом, настоятельно рекомендуя разработчикам избегать предвзятостей, особенно в сферах занятости и здравоохранения.

Отмечается, что несогласованные подходы в Австралии вызывают путаницу для организаций.

«Хотя есть примеры хорошей практики по всей Австралии, подходы не согласованы», - отмечает отчет правительства.

«Это приводит к путанице для организаций и затрудняет им понимание, что им нужно делать, чтобы разрабатывать и использовать ИИ безопасным и ответственным образом», - говорится в нем.

Рамка подчеркивает недискриминацию, рекомендуя разработчикам обеспечить, чтобы ИИ не поддерживал предвзятости, особенно в чувствительных областях, таких как занятость или здравоохранение.

Также делается упор на защиту конфиденциальности, требуя обработки персональных данных, использованных в системах ИИ, в соответствии с австралийскими законами о конфиденциальности, обеспечивая защиту индивидуальных прав.

Кроме того, обязательным является введение надежных мер безопасности для защиты систем ИИ от несанкционированного доступа и возможного злоупотребления.

Отредактировано Себастьяном Синклером