Различия

Здесь показаны различия между двумя версиями данной страницы.

--- start [2026/05/28 21:21]
platonova
+++ start [2026/10/16 15:38] (текущий)
platonova
@@ Строка 1: / Строка 1: @@
 ====Ближайшее заседание====
-**10 июня 2026 г.**
+**21 октября 2026 г., г. Москва.** \\
-// Когда этика ИИ становится вопросом инфраструктуры: распределение ответственности в регулировании интеллектуальных и робототехнических систем // \\
+// Модель мира анимата, способного к планированию поведения. // \\
-Докладчики: \\
+Докладчик: \\
-Карташева Анна Александровна, кандидат философских наук, научный сотрудник Международной лаборатории прикладного сетевого анализа НИУ ВШЭ \\
+Карпов В.Э., д.т.н, начальник лаборатории робототехники НИЦ "Курчатовский институт". \\
-Аннотация: В докладе предлагается рассматривать этику ИИ как организационное поле, где встречаются разные типы участников: государственные структуры, технологические компании, университеты, исследовательские центры, профессиональные ассоциации, экспертные группы, НКО, международные организации, бизнес-заказчики и конечные пользователи. У каждого из них свои интересы, язык описания рисков, степень влияния и доступ к принятию решений. Поэтому этическое регулирование нельзя свести к декларации общих принципов. Важно понять, кто именно превращает эти принципы в процедуры, стандарты, образовательные практики, инженерные решения и механизмы контроля.  Сетевой анализ необходимо соединять с тематическим анализом: если сетевой подход помогает увидеть конфигурацию поля (акторов, связи, центры влияния и периферийные зоны), то тематический анализ позволяет понять, какие проблемы называются ключевыми.
+Аннотация:
+В докладе рассматриваются результаты очередного этапа проекта по созданию робота-партнера, связанные с решением задачи планирования поведения.
+Семиотическая модель мира (ММ) агента-анимата, представляющая его знания о мире в виде множества понятий и отношений между ними, обычно декларативна. Ее основная задача – систематизация и структуризация сущностей мира анимата. Вместе с тем, классическое или символьное планирование поведения в ИИ является хорошо разработанным механизмом, в основе которого обычно лежит множество т.н. STRIPS-правил, использующих формализм логики предикатов. Отсюда возникает вопрос об интеграции декларативной ММ анимата и процедуры символьного планирования поведения. Показано, как описание действий в стиле STRIPS в виде списков условий выполнимости, добавления и удаления фактов декомпозируется в множество элементов семиотической ММ. При этом понятие семиотической ММ дополняется элементами-слотами на компонентах знаков, а также множеством отношений между слотами и соответствующими семантическими сетями. Показано, что реализация компонентов STRIPS-правил требует наличия в модели знаков, представляющих собой абстрактные сущности ("вещь", "место" и т.п.). В качестве примера рассмотрена задача планирования поведения агента, оперирующего множеством объектов для движения между помещениями и выполнения целевой задачи. Построенная ММ определяет компоненты STRIPS-правил, при этом формулировки условий, цели и вид правил относят задачу к категории "тяжелых": целевые условия включают правило вида "все вещи должны быть на своих местах", а в ходе планирования происходит удаление текущего состояния от цели. Планирование – это сложная вычислительная процедура, поэтому были рассмотрены вопросы поэтапного планирования, при котором единая процедура построения плана как поиск оптимального пути в пространстве состояний заменяется на этапы. Показано, что такое разбиение на этапы позволяет построить итоговый план действий, пусть и не оптимальный.
+В докладе обсуждается роль эмоционально-потребностного (ЭП) и "этического" уровней системы управления анимата в процессе планирования поведения. Если "этический" уровень определяет целеполагание, т.е. задает целевое состояние системы, то ЭП-уровень требует совершенно иной интерпретации STRIPS-правил. Уровень ММ не отвечает за реализацию поведения, его задача – определять состояния элементов ЭП-уровня – актуальных потребностей и виртуальной сенсорики.
 Необходима регистрация по адресу: ethicsai@yandex.ru
-[[программа|Материалы семинара]]
+[[prog_materials|Материалы семинара]]

Этические проблемы искусственного интеллекта

Инструменты пользователя

Инструменты сайта

Различия

Инструменты страницы