Различия

Здесь показаны различия между двумя версиями данной страницы.

--- start [2024/06/13 19:21]
platonova
+++ start [2025/11/24 20:49] (текущий)
platonova
@@ Строка 1: / Строка 1: @@
 ====Ближайшее заседание====
-**26 июня 2024 г.**
+**10 декабря 2025 г.**
-//Обзор подходов к валидации интеллектуальных систем на этичность: от научных исследований до нормативной документации//
+// Робот-партнер: по образу и подобию собаки. //
-Докладчик: Готовцев Павел Михайлович, к.т.н., НИЦ «Курчатовский институт»
-В настоящее время активно обсуждается огромное количество рекомендаций, нормативных документов, дорожных карт и т.д. о том, какими этичными должны быть современные интеллектуальные и автономные системы. Значительная часть этих бумаг не представляет ничего более чем пожелания о том, чего хотелось бы достичь в данной области. В тоже время серьезных научных исследований, привязанных к реальным возможностям тех систем, которые уже есть на практике или активно разрабатываются на сегодняшний день не так уж и много. Таким образом, сегодня складывается парадоксальная ситуация когда ведутся многочисленные обсуждения и написание регламентирующих отрасль документов, которые практически не подтверждены научными исследованиями. Целью данного доклада является обзор того, как сегодня обсуждается валидация интеллектуальных систем на этичность в различных документах, какие научные исследования были проведены в данной области и на что необходимо обратить внимание, чтобы разрабатываемые нормативные и регуляторные документы как можно быстрее получили основу в виде реальных научных результатов.
+Докладчики: Карпов В.Э., Томильцева Д.А., Сорокоумов П.С.
+Аннотация: В работе рассматривается возможность создания робота-партнёра, основанного на восприятии человеком его поведения, как служебной собаки. Исходными установками исследование является: 1) оценка поведения робота-партнера с моральной позиции обусловлена психологией восприятия человека; 2) моральный уровень системы управления может воздействовать на поведение искусственного агента, не влияя на работоспособность базовых уровней управления, устойчивость и целостность поведения робота; 3) робот-партнёр должен выполнять функционал собаки и демонстрировать её уникальные поведенческие черты; 4) робот-партнёр, в котором проявлены черты собаки, ограничен в своих когнитивных возможностях. В рамках исследования был произведён отбор ограниченного ряда поведенческих особенностей собаки, связанных с коллаборативными возможностями. Наиболее важные характеристики собаки, такие как строение тела, психология, идеализированные человеческие представления были типизированы по ряду параметров. При разработке модели за характеристикой "строение тела" была оставлена такая функция как способность отображать эмоциональное состояние агента. В качестве теоретической основы для морального уровня системы управления была выбрана концепция количественного эгоистического гедонизма Г. Сиджвика. Разработанная модель была протестирована в ряде экспериментов, представленных в двух ситуациях взаимодействия робота и человека, каждая из которых предполагала несколько поведенческих сценариев, воспроизводящих поведение собак и людей в аналогичной ситуации. В результате проведённых экспериментов была подтверждена работоспособность трехуровневой системы управления: эмоционально-потребностный, когнитивный и оценочный (моральный) уровни. При этом выяснилось, что ряд поведенческих сценариев, внешне выглядевших как результат сложных когнитивных процессов, на самом деле реализуется базовым условно-рефлекторным механизмом (сценарии с "оценкой" ситуации и осцилляциями поведения). Вместе с тем, что внешне казалось простым рефлекторным поведением, требовало привлечения когнитивного уровня управления (сценарии с переориентацией базовых реакций).
 Необходима регистрация по адресу: ethicsai@yandex.ru

Этические проблемы искусственного интеллекта

Инструменты пользователя

Инструменты сайта

Различия

Инструменты страницы