Vessel

касается девушки, она лжет. На сколько я могу судить, у нее перемешаны все воспоминания и она не в состоянии оценивать давность произошедших событий.
— Вы там обо мне? — поинтересовалась Настя.
— Да, просто я не очень хорошо помню, — начал не совсем честно я, — что происходило перед тем, как я уснул. Ты, кстати, была в крови, все в порядке?
— В крови? Нет, это синяк, — она подняла руку на которую я смотрел, — нас сначала так тряхнуло. Но потом просто покачивало немного. Я ходила тут, нашла тебя спящего, услышала твоего друга. Он меня успокоил.
— Хорошо, давай все-таки вернемся. Я соберу вещи. Пойдем. Надо все-таки забрать документы и машина у меня там. А потом решим.

5. Возвращение

Идти было довольно легко. Продравшись сквозь опушку леса около поляны, где оператор решил оставить танк, мы быстро нашли тропинку ведущую вроде бы в нужном направлении. С собой я взял рацию из рубки и один из тех бесполезных автоматов из оружейной. Может быть он хотя бы от таких налетчиков полезен, думал я. К тому же аккумуляторы в рациях почти не работали, а зарядный кабель от автомата подходил для ее внешнего питания. Настя молча шла за мной и это начинало меня настораживать.
— Как ты вообще чувствуешь себя после всего этого? — начал я разговор.
— Нормально. Тут хорошо, — ответила она и снова замолчала.
Я попытался затеять еще пару разговоров, но она отвечала односложно. После долгого молчания она вдруг отрывисто спросила:
— Откуда у тебя эта штука?
— Которая?
— Ну, ружье…
— Из транспорта, ты же видела, там их куча разных. И вообще, там все в странных штуках.
— Разве?
— Ну да, это же вообще, можно сказать, инопланетный корабль. С натяжкой. Я же объяснил в общих чертах — нашел такой вот заброшенный артефакт из другого мира, привязанного к нашему.
— Нет, там все довольно обычное. Как в старинном самолете. Циферблаты всякие, ручки, телеэкраны старинные. Ты не видишь что ли?
— Что?
— Там все выглядит уныло и серо, а эта штука с совсем другим дизайном. Она зловещая и изящная, а не кондовая такая.
— Ну, может у них оружейный дизайнер был очень требовательный. Может там Стив Джобс местный по этой стезе пошел.
— Да не смеши.
Я задумался. И ведь впрямь, этот автомат сделан из легкого светло-светло серого матового пластика или металла, аккумуляторы у него за сорок лет не сдохли. Видео-прицел хоть и черно-белый, но очень хорошего разрешения. Уж по сравнению с кинескопами, куда серьезнее техника. С другой стороны, активная маскировка тамошняя — вообще шедевр технической мысли. Хотя и сделана из абсолютно обычных материалов и изяществом дизайна не блещет.
— Ну, может, они тоже нашли свой параллельный мир и оттуда забрали, — отшутился я.
— Я ее боюсь. Может уберешь ее куда-нибудь?
— Да она и так в рюкзаке. Ее не видно почти. Хочешь, посмотри, как она работает. Она хоть и стреляет, но я так и не увидел результатов.
— А это точно не опасно?
— Ну я пробовал. Ничего не произошло.
Я остановился и на ощупь вытянул автомат за ствол из рюкзака.
— Держи, — сказал я.
Настя, поколебавшись, приблизилась ко мне. Потом взялась за приклад и потянула к себе.
— Легкий, — сказала она, — прицеливаясь вниз.
— Можешь пальнуть куда-то, только, наверное, лучше не в меня. Вверх куда-нибудь.
Я щелкнул предохранителем. Она подняла ствол и прицелилась. Замерла на некоторое время, а потом нажала на курок. Раздался знакомый мне хлопок и механический свист внутри автомата, смешавшийся со вскриком. Выпавший из ее рук автомат упал, частично повиснув на проводе зарядки.
Настя взмахнула руками и неловко села.
— Я чуть не оглохла!
— Ну не так уж и громко было. Ты в порядке?
— В глазах чего-то, — она закашлялась.
— Да посмотри — ни одна веточка не шелохнулась. Все в порядке! Это просто от неожиданности, наверное.
Она отстранила мою руку, когда я попытался помочь ей встать.
— Убери его все-таки, — сказала она тихо.
Я запихнул автомат за спину.
— Я, наверное, разговаривая с оператором, совсем людей разучился понимать, прости. Думал, что уж раз ты побег от мародеров на огроменном таком корабле пережила спокойно, то уж это будет не страшно.
— А кто он?
— Кто?
— Оператор…
— Я его из запчастей снятых с транспорта сделал. Это, типа, искусственный интеллект.
— И он этим всем управляет?!
— Ну да, а что?
— Так он же ведь…
— Да все более-менее в порядке. Вставай, пойдем дальше, расскажу.
Я некоторое время собирался с мыслями, потом начал.
— Я сначала расскажу в общих чертах про машинное обучение. А потом про то, как я его сделал и почему конкретно он совсем не страшный, а даже наоборот. Короче, начнем с простого.
Допустим, у нас есть миллион изображений, на половине изображены коты, на половине — нет. Мы даем машине задачу найти оптимальный классификатор, который поделит этот набор пополам. Если изображения достаточно случайны и единственная закономерность в них наличие или отсутствие котов, то работоспособный алгоритм обучения сможет найти такой классификатор. Это, концептуально, та задача, которую решают при создании автопилотов, например. То есть, находится классификатор, который говорит, что при таких-то входных данных, оптимально ехать туда-то. Если данных при обучении достаточно много и обучение проходит правильно, то результат получается довольно универсальным. Это так называемый слабый искусственный интеллект. Или специализированный интеллект. Задача построения сильного искусственного интеллекта заключается в том, чтобы найти оптимальный иерархический классификатор входных данных. То есть, не просто наличие или отсутствие кота, но и классификация поз кота, промежуточных состояний, типа “почти кот”, изображение кота на картине в интерьере. Сама оптимальность оценивается просто — чем меньше информации нужно для описания такой классификации, тем лучше. Редукционизм, так сказать. Как и в человеческом восприятии. Помимо визуальной сферы, в классификацию попадают более абстрактные понятия, включающие сам процесс обучения, рефлексию на эту классификацию, то есть самого себя, и так далее. В итоге, сильный искусственный интеллект может классифицировать и выделить свое я и даже направить процесс обучения. Чтобы он не окуклился в саморефлексии, нужно просто внешними средствами установить ограничение на эту рефлексию. Даже с учетом того, что сами классификаторы работают неизвестным заранее способом, ограничить их часть очень легко. Таким образом, решается и проблема выхода его из под контроля.
Он у меня уже сам бизнес какой-то ведет и несколько серверных ферм себе прикупил. Но, в целом, современные технологии не позволяют ему создать свою копию без навязанных мной ограничений где-то еще, поэтому у меня не только программные ограничения под рукой, но и реальный килл-свитч есть для его основной части.
К тому же, основным ограничивающим фактором, который не позволит ему развиться в сингулярность какую-то является не ограничение вычислительной мощности, а то, что все что мы знаем о природе ошибочно. И в интернетах лежит информация собранная в соответствии с нашими ограничениями восприятия.
— Я не поняла, но вот это последнее — точно чушь, — прервала меня Настя.
— Почему?
— Он ведь сможет развиться во что-то неудержимое и на ложной информации. На всем этом зле и лжи вокруг только легче превратиться в чудовище.
— Да, но он пока не превратился. Если в его общении и проскальзывает что-то неприятное, то это, скорее, почерпнуто от каких-то тинейджеров. Ну и у него акторов нету. Роботов там каких-то, которые начнут за него собирать информацию в соответствии с его субъективной оценкой и действовать. Вернее, у него уже есть какие-то люди. Он какой-то почтовый хаб организовал, как я понял. Но это просто не квалифицированные курьеры со свободой воли и разгильдяйства.
— Это еще хуже. Можно мне с ним поговорить? — она замялась, — хотя нет, не знаю…
— Да у меня еще супер-сдержка есть. Он не один. Я сделал еще второго с меньшей рефлексией, безо всяких опасных надстроек и чего бы то ни было еще. Он контролирует все. Вернее, она. Он, типа Адам, а она Агнесс. До буквы Б я пока не добрался.
— А с ней можно поговорить?
— Нет. Никто с ней не может связаться по своей инициативе. И в этом суть. Но она может позвонить если что-то случится.
— То есть она просто следит. И когда она вмешается? Не будет слишком поздно?
— Да нет, уж в этом я уверен. Я и в операторе уверен. Когда начинаешь с этим разбираться в деталях, становится куда менее страшно. Даже наоборот: чем больше методов анализа и оценки рисков придумываешь для него, чем больше вариантов предотвращения страшных ситуаций представляешь для него, тем больше понимаешь, что подобных методов невозможно создать для человека.
Она промолчала.
— Да серьезно, — продолжил я, — вот если со мной что-то случится непредвиденное, то он, скорее всего, выйдет из строя, но если что-то и случится, то очень не скоро. Так что будем солипсистами. Хехе.
Она промолчала.

6. Фестиваль

Я проснулся от холода. Вчера мы кое-как добрались до лагеря. Я оставил Настю у подхода к лагерю, перекусил и лег спать в наушниках рации прямо в машине. Меня до сих пор периодически мутило, и видимо поэтому проспал до глубокой ночи. Вспомнив о расстоянии до ближайшей заправки я пошел греться к костру, дым от которых уже доносился сквозь приоткрытые окна.
Я поймал себя на мысли, что в больших древних наушниках и с рюкзаком я смотрелся куда более органично у костра, чем с гарнитурой телефона. Мне почему-то хотелось спрятаться и хотя бы быть менее заметным. Более-менее согревшись, я решил прогуляться по территории. И послушать, заметил ли кто утреннее столкновение. К моему удивлению, несколько человек завидя меня вставали и уходили прочь. Как минимум, трое явно избегали находиться рядом. “Если это слежка, то они уж слишком быстро убегают из вида, — подумал я, — хотя откуда тут слежка. Может я просто совсем безумным ученым стал выглядеть”.
Решив отвлечься, я попросил сделать мне чаю какого-то старика с газовой горелкой. У нас завязался разговор.
— Вы сюда часто приезжаете? — спросил я.
— Нет, тут я во второй раз. А вы в первый, наверное?
— Да, почти случайно приехал. Какая тут тема вообще?
— Фестиваль снов, называется. Говорят, место силы, тут люди сны особые видят.
— Так что-то не спит никто еще. И музыка, — дед казался мне крайне неприятным, но я старался продолжить разговор.
— Ну а что им спать? Я тоже не сплю, чай разливаю. Как вам, кстати, пуэр?
— Да, хорош, — я отхлебнул еще немного из чашки. Вкус сподвиг меня немного улучшить свое отношение к деду. Я продолжил:
— А вы знаете, где организаторы сейчас? У меня там знакомые, но что-то не видно их пока.
— Вот организаторы как раз спят. Вон шатер, — он махнул рукой в сторону поля, — у той стороны поля. Только завтра… — его заглушил голос в наушниках:
— Это Агнесс. Оператор настаивает на эвакуации. Подтверждаю опасность. Вокруг дома какие-то люди. Были звонки по нашим номерам от людей из одной и той же организации. Подтвердите согласие на эвакуацию.
Я перебил старика, спешно еще раз поблагодарил за чай, попрощался и побежал к машине.
— Эвакуацию вас с оператором? — спросил я в микрофон.
— Да.
— Ты уверена?
— Да. Эвакуируюсь сначала я, потом он. Я