Российский эксперт: в СГ существуют средства, проверяющие достоверность работы искусственного интеллекта

Технологии ИИ сегодня успешно применяются в ключевых сферах жизнедеятельности, подчеркивали участники форсайт-сессии. Процесс внедрения искусственного интеллекта в жизнь идет семимильными шагами. На вопрос корреспондента портала Союзного государства, нет ли опасности в том, что с развитием искусственного интеллекта люди могут получать искаженную картину мира, представитель российской стороны форсайт-сессии Кирилл Землянухин – руководитель Стратегического агентства поддержки и формирования ИИ-разработок отметил, что сегодня существуют средства проверки достоверности контента ИИ.

«Такие опасности, конечно, есть, поэтому одно из направлений в нашем форсайте – это alignment, то есть выравнивание моделей, выравнивание ответов», - отметил спикер. Говоря простым языком – это процесс, благодаря которому системы ИИ действуют в соответствии с человеческими целями, намерениями и ценностями, а не отклоняются от них. Цель выравнивания – сделать ИИ полезным, безопасным и надежным, гарантируя, что его действия будут соответствовать ожиданиям и этическим принципам людей.

По словам Кирилла Землянухина, для оценки качества контента ИИ в России существует эталон – бенчмарк SLAVA (разработанный экспертами Российской академии народного хозяйства и государственной службы и Институтом системного программирования им. В.П. Иванникова Российской академии наук). Бенчмарк создан для проверки, как большие языковые модели справляются с фактологическими и ценностно нагруженными вопросами по истории, обществознанию, географии и политологии.  

«Бенчмарк SLAVA, например, проверяет, в том числе иностранные, российские модели, на тему того, насколько они соответствуют общей линии нашего патриотического воспитания, гражданского воспитания, тому, что мы хотим, чтобы наши граждане разделяли», - поясняет эксперт. Что касается согласования позиций по развитию ИИ в Союзном государстве, сегодняшнее мероприятие с участием белорусских и российских специалистов – один из таких шагов. 

«Наше Стратегическое агентство поддержки и формирования ИИ разработок  координирует развитие науки в сфере искусственного интеллекта в России. Есть партнёрские взаимоотношения между нашими исследовательскими центрами в сфере искусственного интеллекта и белорусскими организациями, которые занимаются также исследованиями в сфере искусственного интеллекта», - отметил Кирилл Землянухин. 

Он выразил уверенность, что очные встречи специалистов двух стран построят надежные мосты для дальнейшего развития и укрепления международного научного сотрудничества в сфере ИИ технологий, в том числе и в рамках Союзного государства.