Не навреди!

Три зако́на роботе́хники в научной фантастике — обязательные правила поведения для роботов, впервые сформулированные Айзеком Азимовым в рассказе «Хоровод».

Законы гласят:
  1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
  2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
  3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.



Многие услышали об этих законах из книг, а многие из фильма "Я робот" с Уиллом Смитом в главной роли. Но специалистам из Google и учёным из университета Беркли и Стенфордского  университета этого не хватило и они сформировали ещё 5 правил, которые необходимо учитывать при создании роботов и искусственного интеллекта.




Их правило гласит:


1) Избегание негативных побочных эффектов. К примеру, робот может разбить вазу, чтобы ускорить процесс уборки. Этого быть не должно;
2) Избегание жульничества. Робот должен убрать мусор, а не прятать его;

3) Масштабируемость надзора. Робот не должен надоедать владельцу вопросами, если есть возможность получить совет более эффективно;

4) Безопасное обучение. Робот-уборщик не должен экспериментировать с протиранием розеток мокрой тряпкой;

5) Устойчивость к изменению вида деятельности. Опыт, полученный роботом при уборке пола в цеху фабрики, может быть небезопасен при уборке офисе или дома.

К слову, в отличие от правил описанных в книге Азимова, все законы придуманные специалистами больше смахивают на правила для робота уборщика!

Подумайте об этом!



0

Комментарии