Всё, что вы подумаете, будет использовано против вас)))Фантастика любит аккуратные импланты: одна операция, человек моргнул — и уже соединён с системой. Реальность выглядит прозаичнее. У неё пока есть кабель, внешний компьютер и длинный экспериментальный протокол… Но принципиальный шаг уже сделан
В Stanford исследовали работу нейроинтерфейса у четырёх людей с тяжёлыми нарушениями речи и движений. В двигательную кору их мозга хирургически вживлены крошечные матрицы микроэлектродов — каждая меньше горошины
Электроды считывают активность нейронов напрямую. Сигнал по кабелю поступает в компьютер, а алгоритм машинного обучения пытается определить, какие звуки и слова собирался произнести человек
Называть это привычным словом «биочип» не совсем точно. В мозге находятся электроды, а основная обработка пока происходит во внешнем компьютере. Однако суть от этого особенно не меняется:
человек и машина уже соединены напрямую, без клавиатуры, микрофона и экрана между нимиПричина у такого соединения более чем достойная — вернуть речь людям, которые из-за паралича не могут говорить. Раньше нейроинтерфейс распознавал попытку речи. Человек старался произнести фразу, мышцы не выполняли команду, но мозг успевал её сформировать. Теперь исследователи решили проверить, сможет ли система расшифровать внутреннюю речь — слова, которые человек проговаривает только про себя
Смогла)))
Внутренняя речь создавала, по словам авторов работы, «ясные и устойчивые» сигналы. Они оказались слабее тех, что возникают при попытке заговорить, но алгоритму всё равно удалось распознать часть воображаемых фраз
Разумеется, это ещё не универсальное чтение мыслей. Интерфейс обучается на конкретном человеке, работает в рамках эксперимента и допускает много ошибок. Так что шапочки из фольги можно пока не выбрасывать)))))))
Но во время исследования возникла проблема, которую фантасты обычно оставляют на вторую половину романа.
Система могла зафиксировать внутреннюю фразу, которую человек не собирался никому сообщатьОдин из авторов исследования Фрэнк Уиллетт назвал это риском того, что внутренняя речь может «случайно просочиться наружу». Поэтому инженеры добавили мысленный пароль. Пока пользователь не произнесёт про себя специальную ключевую фразу, алгоритм не начинает расшифровывать внутреннюю речь. Получилась кнопка «Отправить», которую тоже вживили в голову
И вот здесь медицинское исследование превращается в разговор об искусственном интеллекте и человеке...И я должен немного испортить красивую презентацию будущего)))
Чтобы распознать мысленный пароль, нейроинтерфейс должен работать ещё до того, как пароль прозвучал. Он уже считывает сигналы мозга и ищет среди них нужную комбинацию
Пароль способен запретить вывод фразы на экран или её озвучивание. Однако сам по себе он ничего не говорит о другом:
сохранялся ли исходный сигнал, где он обрабатывался, можно ли восстановить его позднее и кто получит к нему доступВ нынешнем исследовании нет никаких утверждений о том, что внутренняя речь отправляется в общую Сеть или навсегда сохраняется в облаке. Но разработчики уже говорят о следующем этапе — полностью имплантируемых и беспроводных нейроинтерфейсах
А значит, рано или поздно появятся вопросы об обновлениях, передаче данных, доступе разработчика, журналах системы и резервных копиях. В общем, обо всём том, что обычно мелко написано в пользовательском соглашении, которое никто не читает)
Цифровая жизнь уже приучила к простой аксиоме: информация, однажды попавшая в Сеть, живёт там гораздо дольше, чем хотелось бы её владельцу. Удалить публикацию можно. Удалить все копии, пересылки, архивы и чужие сохранения намного сложнее. Иногда невозможно
Но до сих пор речь шла о фотографиях, письмах, запросах и поступках. Нейроинтерфейс добавляет к этому списку внутреннюю речь — фразу, которую человек мог обдумать, отвергнуть и никогда не произнести
Заинтересованные найдутся быстро. Спецслужбам внутренний монолог подозреваемого гораздо интереснее официальных показаний. Работодателям пригодится «объективная оценка искренности». Ревнивые супруги тоже вряд ли останутся в стороне…
Где появляется ценная информация, там появляется и желание её получить. А следом — рынок взлома. Причём с распространением технологии доступ к чужим мыслям будет становиться
дешевле, как когда-то подешевели инструменты для слежки, перехвата переписки и кражи цифровых данных
Оруэлл называл это мыслепреступлением. Правда, у него доступ к сознанию получало государство, применяя насилие. Современная версия может оказаться изящнее: человек добровольно установит интерфейс ради здоровья или удобства, а затем поставит галочку под очередным соглашением
Я уже не раз говорил, что всеобщая цифровизация ведёт к гибели приватности и наступлению эпохи всемирной честности. Нейроинтерфейс способен довести этот процесс до логического завершения: доступным станет не только то, что человек сделал или произнёс, но и то, что он успел подумать
Поэтому мысленного пароля недостаточно. Нужны гарантии, встроенные в само устройство: локальная обработка, запрет на сохранение исходных сигналов, прозрачная история доступа и возможность физически отключить канал
Без этого пароль останется фиговым листком, которым прикрывают человеческое спокойствие
И тогда привычная фраза «всё, что вы скажете, может быть использовано против вас» окончательно устареет)))
Достаточно будет подумать...
