Илон Маск анонсировал гуманоидного робота, предназначенного для выполнения повторяющихся и скучных задач, которые люди ненавидят выполнять. Маск предположил, что он может сбегать за вас в продуктовый магазин, но, по-видимому, он справится с любым количеством задач, связанных с ручным трудом. Как и следовало ожидать, социальные сети наполнились отсылками к серии антиутопических научно-фантастических фильмов о роботах, где все идет ужасно неправильно.
Каким бы тревожным ни было будущее роботов в таких фильмах, как "Робот", "Терминатор" и других, именно лежащие в основе технологии настоящих гуманоидных роботов, и их намерения, должны вызывать беспокойство.
Робот Маска разрабатывает компания Tesla. Это кажущийся отход от автомобильного бизнеса компании, если не считать, что Tesla не является типичным производителем автомобилей. Так называемый "Tesla Bot" — это концепция изящного, человекоподобного робота, который будет включать автомобильный искусственный интеллект и технологии автопилота Tesla для планирования маршрутов и следования по ним, навигации по трафику — в данном случае пешеходов — и избегания препятствий.
Если отбросить антиутопический научно-фантастический подтекст, план имеет смысл, хотя и входит в бизнес-стратегию Маска. Искусственная среда создана людьми для людей. И, как утверждал Маск при объявлении Tesla Bot, успешные передовые технологии должны научиться ориентироваться в нем так же, как это делают люди.
Тем не менее, автомобили и роботы Tesla — это всего лишь видимые продукты гораздо более масштабного плана, нацеленного на создание будущего, в котором передовые технологии освобождают людей от наших биологических корней путем смешения биологии и технологий. Если посмотреть на это со стороны этического и социально ответственного развития, становится ясно, что этот план вызывает опасения, которые выходят за рамки спекулятивных научно-фантастических страхов перед сверхразумными роботами.
Беспилотные автомобили, межпланетные ракеты и интерфейсы "мозг-машина" — это шаги к тому будущему, которое Маск представляет, в котором технологии станут спасителем человечества. В этом будущем энергия будет дешевой, изобильной и устойчивой. Люди будут работать в гармонии с умными машинами и даже сливаться с ними. И, да — люди станут межпланетным видом.
Это будущее, которое, судя по различным инициативам Маска, будет построено на наборе базовых взаимосвязанных технологий, которые включают датчики, исполнительные механизмы, инфраструктуры энергии и данных, системную интеграцию и существенный прогресс в области компьютерных мощностей. Вместе они составляют мощный набор инструментов для создания трансформирующих технологий.
Маск представляет, как люди, в конечном счете, выходят за рамки нашего эволюционного наследия с помощью технологий, выходящих за пределы человеческого или "сверхчеловеческого" уровня. Но прежде чем технология сможет стать сверхчеловеческой, она сначала должна быть человеком — или, по крайней мере, быть разработана для процветания в мире, созданном людьми.
Этот подход к инновациям, основанный на человеческом подходе к технологиям, лежит в основе технологий в автомобилях Tesla, включая широкое использование оптических камер. Когда они подключены к "мозгу" ИИ, они предназначены для того, чтобы помочь транспортным средствам автономно перемещаться по дорожным системам, которые, по словам Маска, разработаны для биологических нейронных сетей с оптическими преобразователями — другими словами, людей. По словам Маска, это небольшой шаг от созданных людьми "роботов на колесах" до человекоподобных роботов на ногах.
Технология "полного самоуправления" Tesla, которая включает в себя сомнительно названный автопилот, является отправной точкой для разработчиков Tesla Bot. Как бы впечатляюще ни была эта технология, она оказалась менее чем полностью ненадежной. Аварии и несчастные случаи, связанные с режимом автопилота Tesla — последние из которых связаны с алгоритмами, изо всех сил пытающимися распознать припаркованные машины экстренной помощи — ставят под сомнение целесообразность столь быстрого выпуска технологии в дикую природу.
Такой послужной список не сулит ничего хорошего человекоподобным роботам, использующим ту же технологию. Тем не менее, это не просто вопрос правильной технологии. Сбои автопилота Tesla усугубляются человеческим поведением. Например, некоторые водители Tesla относились к своим модернизированным автомобилям как к полностью автономным транспортным средствам и не уделяли должного внимания вождению. Может ли что-то подобное случиться с Tesla Bot?
Люди, занимающиеся исследование социально полезных технологических инноваций уделяют особое внимание, так наываемым "сиротским рискам" — рискам, которые трудно измерить количественно и легко упустить из виду, но которые неизбежно приводят к тому, что новые разработки "сбиваются с курса". Работой с такими ситуациями занимается Risk Innovation Nexus — совместная инициатива Института предпринимательства и инноваций им. Орина Эдсона, Университета штата Аризона и Лаборатории глобального будущего.
Tesla Bot несет в себе целый портфель сиротских рисков. К ним относятся возможные угрозы конфиденциальности и автономности, поскольку бот собирает, делится и действует с потенциально конфиденциальной информацией. Проблемы, связанные с тем, как люди могут думать о гуманоидных роботах и реагировать на них и потенциальные несоответствия между этическими или идеологическими взглядами. Например, в борьбе с преступностью или в борьбе с гражданскими протестами. Это проблемы, которые редко освещаются в обучении, которое получают инженеры, и тем не менее, игнорирование их может привести к катастрофе .
Хотя Tesla Bot может показаться безобидным (или даже шуткой) для того, чтобы он был не только коммерчески успешным, но и полезным, его разработчикам, инвесторам, будущим потребителям и другим людям необходимо задавать сложные вопросы о том, как он может угрожать тому, что важно, их и как ориентироваться в этих угрозах.
Эти угрозы могут быть столь же конкретными, как люди, вносящие несанкционированные модификации, которые увеличивают производительность робота — например, заставляют его двигаться быстрее, чем предполагали его разработчики — без учета рисков, или столь же общими, как технология, используемая в вооружении новыми способами. Они также столь же тонки, как то, как робот-гуманоид может угрожать безопасности работы или как робот, включающий передовые системы наблюдения, может подорвать конфиденциальность.
Кроме того, существуют проблемы технологической предвзятости, которая преследовала ИИ в течение некоторого времени, особенно когда она приводит к усвоенному поведению, которое оказывается в высшей степени дискриминационным. Например, алгоритмы ИИ привели к сексистским и расистским высказываниям и выводам.
Tesla Bot может показаться маленьким шагом к созданию сверхчеловеческих технологий, и его легко списать со счетов как нечто большее, чем высокомерное зрелище Но стоящие за этим дерзкие планы серьезны — и вызывают не менее серьезные вопросы.
Например, насколько ответственным является видение Маска? Кто может сказать, что он должен делать это только потому, что он может работать над созданием будущего своей мечты? Является ли будущее, которое Маск стремится обеспечить, лучшим для человечества или даже хорошим? И кто пострадает от последствий, если что-то пойдет не так?
Это более глубокие опасения, которые вызывает Tesla Bot. Это не означает, что Tesla Bot — плохая идея или что Илон Маск не должен иметь возможность поиграть своими мышцами, демонстрируя инновацию за инновацией. При правильном использовании это революционные идеи и технологии, которые могут открыть многообещающее будущее для миллиардов людей.
Но если потребители, инвесторы и другие люди будут ослеплены блеском новых технологий или пренебрегают шумихой и не видят более широкой картины, общество рискует передать будущее богатым новаторам, чье видение выходит за рамки их понимания. Если их видение будущего не согласуется с тем, к чему стремится большинство людей, или если они катастрофически ошибочны, они рискуют встать на пути построения справедливого и равноправного будущего.
Нет, нас не ждет антиутопия, в которой роботы Tesla захватят планету. Однако это не значит, что нужно игнорировать очевидные проблемы создания буйных гуманоидных роботов. Проблема, создаваемая ими, гораздо более серьезная, ведь ни кто сейчас не пытается решать: кто будет представлять будущее и участвовать в его создании.
