Наши сети

Привет!

Год назад я перестал активно вести «Наши сети»  — на хороший пересказ статьи уходил минимум час. Но привычка читать и фильтровать информацию никуда не делась: так получился линкблог про технологии, медиа, книги и кучу других вещей https://t.me/onproduct.

Подпишитесь, если вас не смущают формат портала в чужую голову и английский язык (примеры типичных постов — выше): возможно, будет интересно.

Основатель соцсети Glitch собрал 12 тезисов, важных для понимания того, как устроены ИТ-продукты. Если мы попробуем осознанно изменить ситуацию, наши жизни тоже поменяются к лучшему:
— Технологии не берутся из ниоткуда. Мы делаем квадратные снимки, отвечаем на рабочую почту ночью и ставим микрофоны дома, потому что кто-то так придумал, а не потому, что это — лучший из вариантов.
— Прогресс ветвится, а не идёт по прямой. Недостаточно просто сделать лучше: одни подходы приживутся, другие — отомрут.
— Разработчики хотят как лучше. В основе спорных решений — благие намерения. Это не освобождает их авторов от ответственности.
— Никто не понимает историю технологий. Почему лидером стал этот продукт? Почему он устроен так? Мы можем только догадываться, хотя участники событий ещё живы.
— Никто не учит этике в ИТ. У юристов и врачей есть обязательный курс профэтики, а у программистов и дизайнеров — пока нет. Мы нащупываем границы допустимого опытным путём.
— Стартапы не всегда понимают, что делают. Заручившись инвестициями, их создатели нарушают баланс экосистем и перекраивают рынки: это коснулось СМИ, транспорта и политики.
— Технологии не строят в одиночку. Стив Джобс не придумал айфон в гараже: десятки людей опирались на идеи сотен. Чтение мифов об успешных бизнесменах не поможет сделать хороший продукт.
— Не только стартапы двигают прогресс. В стартапах работает лишь 15% разработчиков, но мы не воспринимаем «скучные» конструкторские бюро, лаборатории или корпорации как центры инноваций.
— Есть три способа монетизации. Это продажа знаний о пользователях («Гугл» и «Фэйсбук»), корпоративные решения («Майкрософт») и розничная торговля («Эпл» и «Амазон»). Бизнес-решения компаний диктует выбранная модель.
— Модель роста стартапов порочна. Собрать инвестиции, потратить их на привлечение аудитории, монетизировать её, а дальше — скупать или убивать конкурентов. «Традиционный» бизнес растёт десятилетиями и планирует вдолгую, но умирает, когда рынок заливают деньгами.
— Технология должна быть модной. Самое рациональное решение не всегда самое привлекательное: привет белым рвущимся кабелям «Эпла».
— За ИТ-компаниями нет надзора. За банками или госорганами следят политики, активисты и СМИ. Увы, они пока слабо понимают технологии.

13 минут на чтение

Хорошо быть «Фэйсбуком»: два миллиарда пользователей бесплатно создаёт контент для ленты и смотрит рекламу в ней же. Плохо быть «Фэйсбуком»: контент надо проверять, а каждая ошибка перерастает в громкий скандал.
— У модераторов «Фэйсбука» много работы. 7500 человек проверяет миллион постов в день. Результат не устраивает никого: либералы обвиняют соцсеть в оправдании расизма, консерваторы — в цензуре, СМИ — во вреде журналистике. Проверку постов не выходит автоматизировать — нейросети находят порно, спам, пропаганду терроризма и фальшивые профили, но не отличают сарказм от призывов к ненависти.
— «Фэйсбук» пытается быть объективным. Модераторы опираются на блок-схемы, а не здравый смысл. Внутренние тренинги учат оставлять фото с анусом на лице Трампа (ведь он публичное лицо), но удалять их, если в кадре секс-игрушки (ведь это порнография). «Евреи устроили 11 сентября» — разрешённая конспирология, но «жадные евреи устроили 11 сентября» — запрещённое разжигание ненависти. Модераторы путаются в политиках и увольняются из-за стресса спустя несколько месяцев.
— Правила едины для всего мира. Из-за этого фраза «сделаем США страной только для белых» не считается расизмом: «Фэйсбук» допускает призывы к созданию этногосударств, защищая интересы сионистов и ЭТА. При этом соцсеть удаляет шутки про религию в Индии и Пакистане: блокировка государством приведёт к оттоку аудитории. Посты с отрицанием Холокоста удаляют в девяти странах, но оставляют в остальных.
— Соцсеть справляется как может. Марк Закерберг обсуждает с менеджерами спорные сообщества вроде InfoWars. Суициды в прямом эфире вынудили доработать Facebook Live, столкновения в Мьянме — добавить поддержку бирманского в алгоритмы фильтрации. Компания даже предложила загрузить обнажённые фото себя, чтобы сразу удалить их при загрузке кем-то ещё. Время идёт, аудитория растёт, проблемы меняются.

40 минут на чтение

И ещё две небольших статьи:
— Про Гугл, котиков и сов. Сотрудники компании подкармливают кошек на специальных станциях в кампусе, а те истребляют редких сов в национальном парке рядом. Экологи бьют тревогу, компания обещает не пускать кошек в парк. Пока же кошки ходят где хотят, а совы страдают.
— Про псевдоискусственный интеллект. Стартапы просят людей притворяться роботами, потому что инвесторы выбирают компании с наработками в ИИ. К примеру, X.ai и Clara просили сотрудников вносить записи в календарь, а Expensify — распознавать чеки. Пользователям же говорили, что всё происходит автоматически.

Венчурный фонд Omidyar Network и некоммерческий Institute for the Future опубликовали чеклист вопросов, позволяющих оценить этичность продукта:
1. дезинформация и пропаганда;
2. привыкание и «дофаминовая экономика»;
3. экономическое неравенство;
4. этика машинного обучения и предвзятые алгоритмы;
5. государственная слежка;
6. управление данными и их монетизация;
7. осознание действий пользователем и доверие сервису;
8. разжигание ненависти и преступные действия.

Компании, обдумавшие эти вопросы при разработке продуктов, смогут избежать проблем в будущем — внутренние политики «Фэйсбука» и «Твиттера» стали предметом критики, когда сервисы стали популярны.

Простите за долгое отсутствие постов!

Пара ссылок в продолжение прошлых статей:
— Индийская железная дорога открыла горячую линию в WhatsApp: в итоге туда присылали картинки с пожеланием доброго утра и флэшмобы в духе «перешли 15 друзьям, чтобы быть удачливее» вместо жалоб.
— Сотрудники «Гугла» протестуют против запуска поиска для Китая с премодерацией результатов. Они возмущены тем, что узнают о проектах из СМИ и предлагают создать независимый комитет по этике внутри компании.

Смотрите также:
— как рассылки с картинками забивают место на бюджетных Android-телефонах в Индии;
— как гуглеры заставили руководство отказаться от сотрудничества с Пентагоном;

А ещё посмотрите @BreakingTrends, автор которого предложила обмен постами. Это — канал о медиатрендах с новостями о медиа и маркетинге, ссылками на исследования, семинары и курсы.

Я подписался, возможно, и вам будет интересно: https://t.me/breakingtrends.

Учёные из Калифорнийского университета в Лос-Анджелесе изучили последствия популярности «Убера», «Лифта» и других агрегаторов такси:
— Водители традиционных такси отменяли поездки с чернокожими пассажирами на 73 процента чаще, заставляя тех ждать на 52 процента дольше. Водители «Убера» и «Лифта» отменяли такие поездки всего на 4 процента чаще из-за требования принимать большинство заказов.
— Агрегаторы работают по всему Лос-Анджелесу, включая окраины. Поездки распределены неравномерно: 10% пользователей делает половину заказов, а 40% вызывает машину раз в месяц или реже. Райдшеринг популярнее в районах с низким доходом жителей, но его распространению мешает недоступность смартфонов либо услуг банков и сотовых операторов.

Беспилотные автомобили повлияют не только на автопроизводителей. CB Insights собрали 33 примера возможных изменений — вот некоторые из них:
— Обслуживание. Страховка и техобслуживание подешевеют: машины станут реже попадать в ДТП. Автомобиль сам сообщит мастерской, что нуждается в починке. Автодилеры уступят место компаниям вроде «Убера», а автошколы станут не нужны. Водители станут реже нанимать адвокатов для споров со страховой.
— Индустрия услуг. Пассажиры станут спать в автомобилях, а не придорожных гостиницах и перестанут импульсно сворачивать за фастфудом. Автобусам, поездам и самолётам придётся конкурировать с беспилотными такси. Медиапотребление возрастёт: пассажирам надо будет чем-то себя занять на время пути.
— Городская среда. Недвижимость в центре подешевеет: расстояния перестанут играть роль. Офлайновые магазины потеряют посетителей, но расширят зоны доставки. Беспилотные автомобили станут ездить быстрее и плотнее, избавив город от затрат на парковки и регулировщиков. Домовладельцы займутся перепланировкой гаражей.
— Побочные последствия. Доставку еды можно будет совместить с её приготовлением или разогревом. Здравоохранение потеряет 500 миллиардов долларов в год за счёт меньшего числа аварий. Пенсионерам и людям с инвалидностью станет проще социализироваться.

Спустя неделю после отказа от дальнейшего сотрудничества с Пентагоном «Гугл» опубликовал принципы работы над ИИ:
1. Нести пользу для общества.
2. Избегать формирования предрассудков: избегать ситуаций, когда ИИ, обученный на искажённых данных, копирует заблуждения людей.
3. Тестировать ИИ на безопасность.
4. Заботиться о приватности.
5. Сделать ИИ подотчётным, чтобы люди могли оценить механизм его работы.
6. Придерживаться стандартов, принятых в научных кругах.
7. Оценивать возможные применения ИИ с опорой на вышеизложенные принципы.

«Гугл» не планирует работать над ИИ, который может причинить вред (если польза не перевешивает риски), может быть использован в боевых действиях и для слежки, либо иным образом нарушает общепризнанные нормы международного права и права человека.

«Джейкобин-мэг» описывает пример активизма внутри корпорации — сотрудники вынудили «Гугл» отменить сделку с Пентагоном:
— «Гугл» и Пентагон договорились о сотрудничестве осенью 2017. Пентагон должен был выплатить «Гуглу» 9 млн долларов за улучшение системы авиаударов с дронов. Отдельные разработчики выступили против: не получив ответа от Дианы Грин, руководительницы «Гугл-клауда», они выложили пост о проекте во внутренней соцсети.
— Сотрудники начали кампанию против руководства. Пять тысяч сотрудников подписали письмо с просьбой отменить проект, а несколько десятков публично покинули «Гугл». Активисты задавали вопросы о «Мэйвене» на встречах и создавали мемы во внутренней соцсети: их распространение позволило оценить масштабы реакции.
— К сотрудникам «Гугла» присоединились коллеги из других компаний. Разработчики из «Майкрософта», «Амазона» и IBM подписали петицию, призывающую технологические компании не работать с правительством. К ним присоединились учёные в области ИИ.
— «Гугл» среагировал на критику. Руководители провели три встречи с сотрудниками по всему миру: они настаивали, что «Мэйвен» — «небольшой проект», а «этика — это сложно». В апреле 2018 стало известно, что «Гугл» участвует в 10-миллиардном тендере на разработку облачного сервиса для американской армии, а «Мэйвен» — пилотный проект.
— Разработчики уличили руководство во лжи. История вышла за пределы «Гугла» и попала в СМИ. 1 июня Диана Грин объявила, что «Гугл» не будет участвовать в тендерах Пентагона после окончания проекта «Мэйвен».

Редактор Android Police попробовал пожить с Android-смартфоном, пользуясь только приложениями с открытым кодом:
— У открытого кода — свои преимущества. Пользователь с техническими знаниями может проверить, что делает приложение (к примеру, какие данные оно отправляет разработчику) и изменить любую часть системы на свой вкус.
— В теории Android — открытая система. Его может скачать и установить любой желающий. На практике сервисы «Гугла» (магазин приложений, карты, браузер, поиск и другие) распространяются по лицензии, а производители смартфонов и комплектующих добавляют непубличный код для работы с камерой и другими сенсорами.
— Энтузиасты создают альтернативные прошивки. Они разрабатывают свои версии встроенных сервисов, работающие на малом числе устройств. Компании не заботятся о поддержке таких прошивок: например, автор не смог синхронизировать «Хром» на компьютере с «Хромиумом», открытым на телефоне.
— Самое сложное — заменить привычные приложения «открытыми». «Файрфокс» справляется с задачами «Хрома», но у «Гугл-драйва», «Нетфликса», «Спотифая» и других сервисов нет альтернативных клиентов. Разработчики открытого ПО делают его в свободное время: такие продукты развиваются медленнее, чем коммерческие.