Вечнозеленая проблема роботов и людей растет и кустится. Гэри Маркус в блогах «Нью-Йоркера»:
Гугловские автомобили, управляемые без участия водителя, уже разрешены к эксплуатации в трех штатах: Калифорнии, Флориде и Неваде. Недалек тот день, когда использование таких машин станет обязательным. В конечном итоге автомобили с автоматизированным управлением научатся водить лучше и безопаснее, чем человек: они не пьют, ни на что не отвлекаются, заведомо лучше реагируют и «понимают» ситуацию на дороге (через внутреннюю связь с другими автомобилями). В ближайшие двадцать-тридцать лет разница между автоматическим и человеческим вождением станет такой огромной, что людям законодательно запретят садиться за руль собственного автомобиля, а если и не запретят, то это будет считаться аморальным, поскольку при человеческом вождении риск причинить вред другому человеку будет значительно выше.
В связи с чем возникают сразу несколько проблем:
а) морального свойства. Если водить будут машины, то кто будет принимать решение, например, о самоубийстве во имя спасения детей в ситуации, когда прямо на тебя на каком-нибудь мосту несется переполненный жизнерадостными школьниками автобус.
б) военно-стратегического свойства. Гражданские самооуправляемые автомобили – ерунда по сравнению с самостоятельно стреляющими беспилотниками и самопроизвольно рвущимися бомбами. Приостановить разработку и производство такого рода оружия призывает Human Rights Watch. Подробнее – Спенсер Акерман на сайте Wired.
в) административные: еще на выходных стало известно, что в преддверии президентских выборов в США текущая администрация значительно ускорила работу над сводом правил по применению самолетов-беспилотников, но после победы Обамы было заявлено, что деятельность будет продолжена в «более спокойном темпе». Что, конечно же, тревожно. Эми Дэвидсон в блогах «Нью-Йоркера»:
Получается, в администрации думают, что некоторые президенты могут лучше других президентов принимать решения о том, кого следует убить. И как будто даже гордятся, что они так думают. В ситуации с «расстрельными списками» слабость Обамы состояла в том, что он полагался на ясность собственного суждения, а не на ясно прописанные стандарты, и стоило ему задуматься о возможности поражения на выборах, как это сразу всплыло на поверхность. Интересно, чего в администрации боялись больше: того, что неразумный Ромни начнет отправлять беспилотники куда попало, или того, какие сведения они оставят после себя на рабочем столе в Овальном кабинете?
г) и это еще не все. Потому что остается проблема «Ученика чародея», поставленная еще Гете (пер. Б. Пастернака):
Старый знахарь отлучился!
Радуясь его уходу,
Испытать я власть решился
Над послушною природой.
Я у чародея
Перенял слова
И давно владею
Тайной колдовства.
В общем, заколдовать веник, чтобы тот сам носил воду, удалось, а чтобы перестал – нет:
Погоди. Исчадье ада,
Ты ведь этак дом утопишь!
С лавок льются водопады,
У порога лужи копишь!
Оборотень-веник,
Охлади свой пыл!
Снова стань, мошенник,
Тем, чем прежде был.
Проблемы, связанные с умерщвлением и приостановкой деятельности машин разрабатываются несколькими исследовательскими коллективами в Оксфорде, Йеле и в Беркли (учреждение носит звучное имя Singularity Institute), но средства на эти исследования выделяются ничтожные и должного внимания им пока не уделяется.
весь блог
Гугловские автомобили, управляемые без участия водителя, уже разрешены к эксплуатации в трех штатах: Калифорнии, Флориде и Неваде. Недалек тот день, когда использование таких машин станет обязательным. В конечном итоге автомобили с автоматизированным управлением научатся водить лучше и безопаснее, чем человек: они не пьют, ни на что не отвлекаются, заведомо лучше реагируют и «понимают» ситуацию на дороге (через внутреннюю связь с другими автомобилями). В ближайшие двадцать-тридцать лет разница между автоматическим и человеческим вождением станет такой огромной, что людям законодательно запретят садиться за руль собственного автомобиля, а если и не запретят, то это будет считаться аморальным, поскольку при человеческом вождении риск причинить вред другому человеку будет значительно выше.
В связи с чем возникают сразу несколько проблем:
а) морального свойства. Если водить будут машины, то кто будет принимать решение, например, о самоубийстве во имя спасения детей в ситуации, когда прямо на тебя на каком-нибудь мосту несется переполненный жизнерадостными школьниками автобус.
б) военно-стратегического свойства. Гражданские самооуправляемые автомобили – ерунда по сравнению с самостоятельно стреляющими беспилотниками и самопроизвольно рвущимися бомбами. Приостановить разработку и производство такого рода оружия призывает Human Rights Watch. Подробнее – Спенсер Акерман на сайте Wired.
в) административные: еще на выходных стало известно, что в преддверии президентских выборов в США текущая администрация значительно ускорила работу над сводом правил по применению самолетов-беспилотников, но после победы Обамы было заявлено, что деятельность будет продолжена в «более спокойном темпе». Что, конечно же, тревожно. Эми Дэвидсон в блогах «Нью-Йоркера»:
Получается, в администрации думают, что некоторые президенты могут лучше других президентов принимать решения о том, кого следует убить. И как будто даже гордятся, что они так думают. В ситуации с «расстрельными списками» слабость Обамы состояла в том, что он полагался на ясность собственного суждения, а не на ясно прописанные стандарты, и стоило ему задуматься о возможности поражения на выборах, как это сразу всплыло на поверхность. Интересно, чего в администрации боялись больше: того, что неразумный Ромни начнет отправлять беспилотники куда попало, или того, какие сведения они оставят после себя на рабочем столе в Овальном кабинете?
г) и это еще не все. Потому что остается проблема «Ученика чародея», поставленная еще Гете (пер. Б. Пастернака):
Старый знахарь отлучился!
Радуясь его уходу,
Испытать я власть решился
Над послушною природой.
Я у чародея
Перенял слова
И давно владею
Тайной колдовства.
В общем, заколдовать веник, чтобы тот сам носил воду, удалось, а чтобы перестал – нет:
Погоди. Исчадье ада,
Ты ведь этак дом утопишь!
С лавок льются водопады,
У порога лужи копишь!
Оборотень-веник,
Охлади свой пыл!
Снова стань, мошенник,
Тем, чем прежде был.
Проблемы, связанные с умерщвлением и приостановкой деятельности машин разрабатываются несколькими исследовательскими коллективами в Оксфорде, Йеле и в Беркли (учреждение носит звучное имя Singularity Institute), но средства на эти исследования выделяются ничтожные и должного внимания им пока не уделяется.
весь блог
