Человекоцентричность, гуманность и ответственность: в Курске обсудили этику использования ИИ

Нейросети плотно входят в нашу жизнь: новые технологии уже активно используются в медицине, образовании, госуправлении и других сферах. Многие обращаются к искусственному интеллекту в личных целях – сгенерировать картинку или текст.

Отметим, что несмотря на то, что технологии эти очень «свежие», вопросами использования искусственного интеллекта в нашей стране в целом и в регионе в частности озаботились несколько лет назад. Еще в декабре 2020 года президент призвал к разработке внутреннего морального кодекса в сфере ИИ. Тогда же при Правительстве РФ был создан Центр развития искусственного интеллекта. Появилась рабочая группа по разработке принципов этики ИИ. А уже в 21 был принят российский кодекс этики в сфере ИИ.

Для Курской области эти вопросы тоже не новы. Их обсуждали еще 5 лет назад, но только теоретически. Сегодня ИИ присутствует во многих сферах жизни. Использование этих технологий позволяет улучшить качество услуг, снизить издержки.

Сейчас на повестке – создание системы, которая способна сохранять уважение к человеческой жизни, достоинству и правам. Очень важно учитывать и культурные различия во избежание нежелательных социальных последствий. Работа с ИИ сопряжена с социальными рисками: утечка персональных данных, личной информации, дискриминация. Поэтому в центре «Мой бизнес» состоялся круглый стол на тему «Этика использования искусственного интеллекта» под председательством зампреда Правительства региона Оксаны Крутько. В мероприятии, проведенном в формате ВКС с федеральными экспертами, приняли участие представители общественных организаций, исполнительной власти, законодатели. Заслушали мнения представителей РПЦ, вузовского сообщества, органов здравоохранения.

Основной принцип должен заключаться в постановке человека, его интересов в центр. Правила должны способствовать справедливому развитию общества в целом. Принципами ИИ должны быть человекоцентричность, этичность, гуманность и ответственность.

— Решения на основе искусственного интеллекта с одной стороны относительно новые для нас, с другой стороны они масштабно развиваются и внедряются во все аспекты нашей жизни. При таком бурном развитии появляются проблемы этики использования ИИ. Если мы имеем в виду госуправление, то это вопросы прозрачности, сохранения персональных данных. Также важно знать, должен ли обратившийся в госучреждение человек знать, что ему отвечает не живой сотрудник, а именно искусственный интеллект, — отметила Оксана Крутько.

В мире на сегодня не существует прообраза законодательного акта использования искусственного интеллекта. Наша страна в передовиках развития таких технологий.

— Сегодня такие динамично меняющиеся технологические направления нуждаются и в законодательном урегулировании. Госдума и наши коллеги одни из первых в мировом пространстве работают над законом об использовании искусственного интеллекта, его правовых основах. Есть задача учесть все этические моменты. Сегодня мы идем вровень с федеральными проектами, — пояснил заместитель председателя Курской областной Думы Константин Комков.

На текущий момент искусственный интеллект в системе здравоохранения развивается по двум трендам. Первый – компьютерное зрение. Это анализ рентгеновских снимков, флюорографии и всевозможных исследований. Второй – анализ электронных медицинских карт. С помощью этого можно выявить определенные риски развития сердечно-сосудистых или онкологических заболеваний, а также заболеваний органов дыхания.

— Надо понимать, что ИИ в любом случае является только помощником врача. Он его ни в коем случае не заменяет. Лечить пациентов будет доктор. Искусственный интеллект может только подсветить какие-то проблемные моменты в истории болезни. Число рентгенологов в регионе небольшое, а нагрузка на них ложится значительная, поэтому ИИ перенаправит патологические снимки на то, чтобы врач уделил им больше внимания, — рассказала главный внештатный специалист министерства здравоохранения Курской области по развитию информационных систем Татьяна Попова.

В компьютерном зрении сейчас основная тенденция идет к тому, чтобы разделить выявление патологии и нормы. ИИ с вероятностью в 99,9% должен брать на себя определение нормы, а патологию уже отдавать на исследование врачу. Эти рекомендации помогут спасти много жизней.

А вот «списать» у нейросетей уже не получится так хорошо, как раньше. Напомним, в России в начале года один студент похвастался, что написал дипломную работу при помощи чат-бота ChatGPT. Нейросеть сгенерировала текст, а молодой человек всё оформил и даже защитил. Громкая история пока не стала прообразом действий выпускников курских вузов. Как отметил проректор по цифровой трансформации ЮЗГУ Алексей Пыхтин, куряне на сегодня активно не используют ИИ, чтобы обмануть систему проверки.

— Одним из важных критериев является проверка работ на антиплагиат. И получается, что один искусственный интеллект проверяет работу другого искусственного интеллекта. Системы, которые генерируют текст, делают это без заимствований. Поэтому появился новый пласт систем, которые проверяют, не написан ли текст нейросетями, — поведал он.

Но технологии не стоят на месте. По словам эксперта, скорее всего студенты совместно с ИИ будут искать и в этих технологиях лазейки. Их в свою очередь будут находить и перекрывать. Это бесконечный цикл, пояснил Алексей Пыхтин.