На информационном ресурсе применяются рекомендательные технологии (информационные технологии предоставления информации на основе сбора, систематизации и анализа сведений, относящихся к предпочтениям пользователей сети "Интернет", находящихся на территории Российской Федерации)

Новости науки

6 933 подписчика

Свежие комментарии

  • Dim Rex
    поднять оперативку  по   источникам   =Маня  -Ваня итдитп  = по опер  части  гулага =лагерей  то   всплывали   такие ..."Неизвестная раса...
  • Dim Rex
    История  как  таковой  нет  Был  потоп   погибла     цивилизация     массовый исход из  СЕ +Верус =severus =север на ..."Неизвестная раса...
  • Александр Зонов
    Прошло почти 7 лет. Где эти мобильные АЭС? "Пандемия" коронавируса и проведение СВО на Украине - не при чём. Даже есл...Минобороны РФ к 2...

Google сформулировала пять принципов безопасности робототехники

 

 

Компании Google и OpenAI совместно с Калифорнийским университетом в Беркли и Стэнфордским университетом сформулировали пять практических проблем, которые необходимо учитывать разработчикам искусственного интеллекта. Препринт их статьи доступен на ресурсе arXiv.org.

Как пишет сотрудник Google и один из авторов публикации Крис Ола (Chris Olah) в корпоративном блоге, хотя связанные с ИИ риски привлекают большое общественное внимание, дискуссии по их поводу обычно слишком гипотетические и спекулятивные.

Статья призвана конкретизировать потенциальные опасности, которые необходимо учитывать при разработках в этом направлении.

Среди проблем, которые должны учитывать разработчики систем ИИ для практического применения, авторы работы выделяют следующие:

  • избегание нежелательных побочных эффектов (например, робот может разбить вазу, если это ускорит процесс уборки); 
  • избегание жульничества (тот же робот может просто прикрыть мусор, а не убрать его); 
  • гибкая потребность в надзоре (например, если робот может посоветоваться с человеком при выполнении задачи, он не должен надоедать вопросами); 
  • безопасное обучение (упомянутому роботу-уборщику не стоит экспериментировать с протиркой розеток мокрой тряпкой); 
  • устойчивость к смене деятельности (например, уборка в цехе металлообработки и химической лаборатории принципиально отличается). 

Среди возможных путей решения исследователи называют использование симуляций в обучении, ограничение пространства деятельности роботов и человеческий надзор, однако ни один из них не представляет окончательного решения проблемы. По мнению специалистов Google, обеспечить заданную работу систем машинного обучения могут только ответственные, открытые и междисциплинарные усилия разработчиков.

Ссылка на первоисточник
наверх