Основные протестантские и католические церковные организации Германии присоединились к ассоциации детских СМИ в запуске инициативы, призывающей к установлению обязательных стандартов для продуктов искусственного интеллекта, используемых детьми, включая кодекс поведения для разработчиков и новые юридические обязательства для поставщиков.
Сообщает Christian Daily International
Инициатива «KI kindgerecht!» («Искусственный интеллект, соответствующий потребностям детей!») была объявлена 14 октября Евангелической церковью Германии (EKD), головной организацией региональных протестантских церквей страны. В число ее партнеров входят EKD, отдел «Церковь и общество» секретариата Конференции немецких епископов, протестантское медиа-агентство GEP и Seitenstark, сеть немецких детских веб-сайтов.
Организаторы заявили, что реагируют на 56 рекомендаций, опубликованных в июне федеральной экспертной комиссией по защите детей и молодежи в интернете. В своем заявлении EKD утверждала, что одной лишь защиты детей от вреда недостаточно, и что детям также необходим доступ к качественным цифровым услугам, руководство взрослых и навыки самостоятельного использования ИИ. Они отвергли полный запрет на использование ИИ несовершеннолетними как неработоспособный.
«Искусственный интеллект уже внедрен во многие цифровые приложения», — заявил епископ Георг Бэтцинг, председатель Комиссии по СМИ при конференции епископов. Он отметил, что энциклика Папы Льва XIV «Magnifica humanitas» дает церкви «четкий мандат» на защиту человеческого достоинства в эпоху ИИ, «особенно там, где дети легко подвергаются опасности».
Бэтцинг заявил, что ответственность «не должна перекладываться исключительно на родителей», и назвал поставщиков услуг, политиков, образовательные учреждения, гражданское общество и семьи в числе тех, кто разделяет эту ответственность. «Технологии должны служить людям, а не исключительно экономическим интересам», — сказал он.
Кодекс поведения для интерактивного ИИ
Инициатива предусматривает три меры. Первая — это добровольный кодекс поведения для интерактивного ИИ, ориентированный на детей, который церкви и организация Seitenstark планируют разработать совместно с исследователями, педагогами и заинтересованными компаниями.
Согласно EKD, кодекс будет основываться на пяти принципах: безопасность на этапе проектирования, уважение прав детей, создание соответствующих возрасту пространств для участия, защита данных и человеческий контроль за системами искусственного интеллекта.
Основываясь на этом коде, партнеры планируют разработать практические стандарты качества. Они призваны служить ориентиром для разработчиков, поставщиков и образовательных учреждений, которые разрабатывают или используют приложения искусственного интеллекта для детей.
Третья мера — это призыв к принятию законодательства, обязывающего поставщиков услуг соблюдать стандарты, соответствующие потребностям детей. Партнеры также выступают за устойчивое государственное финансирование медиаобразования, чтобы дети, родители и специалисты в области образования могли научиться компетентно использовать ИИ.
В объявлении говорится, что к участию приглашаются школы, СМИ, исследователи, родительские ассоциации, предприятия и частные лица. В заключение прозвучал вопрос: «Будем ли мы формировать ИИ для детей — или предоставим ИИ формировать наших детей?»
«Последний, кого спросят»
Дарья Мартенс, член правления компании Seitenstark, заявила, что молодые люди в значительной степени были отстранены от принятия решений относительно технологий, которыми они уже пользуются.
«Сегодня дети первыми начинают расти с искусственным интеллектом. Но зачастую их последними спрашивают о том, как он разработан», — сказала она.
Детям необходимы защищенные пространства, где они смогут тестировать, понимать и задавать вопросы об искусственном интеллекте на уровне, соответствующем их возрасту, сказала Мартенс. Компания Seitenstark внесет свой вклад, используя свой опыт в сфере детских СМИ и свой знак качества для цифровых детских медиа, который, по словам группы, она присуждает с 2022 года.
Доротея Вюст, президент Евангелической церкви Пфальца и председатель наблюдательного совета GEP, заявила, что детей «нельзя оставлять одних и исключать из цифрового пространства». По ее словам, партнеры хотят помочь обеспечить детям возможность использовать ИИ «безопасно и самостоятельно».
Новые риски, но запрет — не решение.
На своем веб-сайте инициатива перечисляет опасности, которые она видит в цифровых медиа. К ним относятся графические изображения войны, целенаправленная дезинформация, дипфейки и созданные с помощью ИИ изображения обнаженного тела, а также разжигание ненависти, кибербуллинг, онлайн-домогательства и сексуальное насилие.
На сайте говорится, что генеративный искусственный интеллект, взаимодействующий с пользователями, создает новые риски для конфиденциальности и защиты данных. Также предупреждается, что известные угрозы физическому и психическому здоровью детей становятся все более серьезными, и что существующие подходы к защите несовершеннолетних в СМИ достигают своих пределов.
Партнеры описывают публичные дебаты о детях и цифровых медиа, включая нынешние споры о социальных сетях, как часто движимые страхом. Они указывают на призывы к полному запрету для несовершеннолетних, которые последовали за рекомендациями комиссии, и называют этот вариант «на первый взгляд самым простым путем» и одновременно худшим.
Они утверждают, что запрет помешает детям научиться уверенно, критически и творчески использовать медиа в защищенной среде. По их словам, эти навыки развиваются только под присмотром взрослых, при объяснениях, соответствующих возрасту, четких правилах и хороших примерах.
Партнеры также утверждают, что запрет на практике не может быть реализован. По их словам, искусственный интеллект уже встроен в поисковые системы, обучающие приложения, голосовых помощников, игровые платформы и социальные сети.
В рамках инициативы утверждается, что родители могут выступать в роли контролеров в зависимости от возраста ребенка, но не могут самостоятельно управлять всем цифровым миром. Она возлагает структурную ответственность на платформы и сервисы, использующие ИИ, заявляя, что они могут сами решать, следует ли серьезно относиться к детям.
Права детей как основа
В основе инициативы лежит подход, базирующийся на Конвенции Организации Объединенных Наций о правах ребенка, где подчеркиваются права детей на защиту, участие и расширение прав и возможностей, а также принцип наилучших интересов ребенка. Партнеры заявляют, что эти права следует отстаивать совместно, а не противопоставлять друг другу.
Они планируют начать со своей собственной работы, которая включает в себя детские СМИ и образовательные учреждения, находящиеся под управлением церквей, от детских садов до школ.
При разработке критериев кодекса группа изучает чат-боты и агентный ИИ, а также опирается на проекты, которые уже проходят тестирование. В качестве примера передовой практики она приводит Auxie, чат-бот для детей, разработанный для детского сайта GEP religionen-entdecken.de.
Партнеры перечисляют три цели: повышение осведомленности общественности и развитие навыков, критерии качества, помогающие детям, родителям и учителям развивать медиаграмотность, а также обеспечение финансирования высококачественных некоммерческих услуг в области искусственного интеллекта для детей. Они заявляют, что эти пять принципов будут конкретизированы в ближайшие месяцы с учетом мнений участников.
Ингрид Штапф, исследовательница в области медиаэтики и прав детей из Международного центра этики в науке и гуманитарных дисциплинах Тюбингенского университета, также указана в качестве партнера.
Независимая экспертная комиссия по защите детей и молодежи в цифровом мире была назначена в сентябре 2025 года Карин Прин, федеральным министром образования, по делам семьи, пожилых людей, женщин и молодежи Германии. 24 июня комиссия представила свои 56 рекомендаций .
Организация Seitenstark с 2007 года зарегистрирована как ассоциация, занимающаяся продвижением прав детей в интернете. Как сообщила EKD, организации и частные лица могут присоединиться к инициативе через ее веб-сайт ki-kindgerecht.de .