Очень хорошее интервью Натальи Касперской
Кратко тезисы:
▪️Важно отделять бюрократию от технологического развития. Технологии развивались исторически снизу вверх, творчески, управлять бюрократически такими людьми – делать хуже (см книгу «Как пасти котов»).
▪️Регулирование само по себе может быть хорошим. Импортозамещение – правильное регулирование в условиях, когда любую технологию в условиях санкций могут отключить. В направлении ИБ практически вся задача решена. Операционные системы – базовый уровень. Базы данные – есть несколько. Есть пробелы в инженерных и узких областях.
▪️При этом повсеместное внедрение ИИ (как KPI) – не самый лучший вид регулирования (пример из прошлого – blockchain). Нельзя очаровываться технологиями, у технологий есть ограничения. Инженеры знают ограничения, но тех, кто понимает как работает технология – мало. Гуманитарии в основном не понимают ограничений, но представлены в информационном поле шире.
▪️Мы не знаем, как новые технологии подействуют на детей. Технологии развиваются быстро. Что отмечают ученые – сокращение у детей памяти, сокращение визуальных представлений (воображения), ухудшение зрения.
▪️Растет ли производительность? Освобождается ли время? Возможно. И на что мы тратим это время 🙂 Вы не тренируете мозг – мозг становится слабым. Как примеры – сможете ли без навигатора добраться до места, сможете ли сложить в уме большие числа.
▪️Агенты заменяют рутину, но супер-бухгалтера, супер-юриста они не заменят, нужно именно мышление. Сокращать человека или нет – это конкретное решение конкретных людей в конкретной организации, ИИ тут не при чем.
▪️Государство должно ограничить использование ИИ в социальной сфере для недопущения дискриминации. Но нужен баланс. В Европе самый жесткий закон на эту тему, но у них и не было своих ИИ-разработок и они законом ограничивают доступ американских технологий, отслеживающих социальную жизнь людей
▪️Дипфейк - реальная проблема. Особенно вокруг людей, у которых было много видео при жизни
▪️В видеохостиннге многое упирается в мощности. Может стоило в условиях небольшого рынка сделать государственный хостинг и дать к нему доступ разным игрокам рынка, чтобы они развивали собственные коммерческие продукты.
▪️Идет распыление ресурсов, вместо того, чтобы сделать 3 хороших, делаем 60 средних. Происходит дублирование функционала. Проблема большого числа операционных систем – тем, кто на них работает приходится портировать приложения под все, это высокие дополнительные затраты. С одной стороны - вроде не хватает людей, с другой стороны – распыление ресурсов. Позиция минцифры – рынок должен порешать сам, это хорошая позиция, но может дать сбой в условиях давления времени и геополитической напряженности.
▪️Чем мощнее технология – тем выше риски ИБ
▪️По уровню развития ИИ Россия – примерно на третьем месте в мире с большим разрывом между нами и следующим сверху
▪️Важно развивать критическое мышление, – огромные объемы данные не выдерживают никакой критики
От себя, несколько прикладных выводов в части архитеткуры решений:
1. Минимизируйте число целевых платформ и закладывайте слой абстракции (portability), фрагментация отечественных решений может сделать портирование скрытой стоимостью
2. Проектируйте под заменяемость каждой внешней зависимости, – «рынок порешает» означает, что именно то, что используется у вас рынок может отвергнуть и система перестанет существовать, потребуется срочная замена
3. Чем мощнее технология, тем выше риски ИБ, – security by design – must have
4. Закладывайте валидацию и происхождение данных и контента (видимо не только в технологии, но и в процессы)
https://www.youtube.com/watch?v=-3tbUsmizUc
Кратко тезисы:
▪️Важно отделять бюрократию от технологического развития. Технологии развивались исторически снизу вверх, творчески, управлять бюрократически такими людьми – делать хуже (см книгу «Как пасти котов»).
▪️Регулирование само по себе может быть хорошим. Импортозамещение – правильное регулирование в условиях, когда любую технологию в условиях санкций могут отключить. В направлении ИБ практически вся задача решена. Операционные системы – базовый уровень. Базы данные – есть несколько. Есть пробелы в инженерных и узких областях.
▪️При этом повсеместное внедрение ИИ (как KPI) – не самый лучший вид регулирования (пример из прошлого – blockchain). Нельзя очаровываться технологиями, у технологий есть ограничения. Инженеры знают ограничения, но тех, кто понимает как работает технология – мало. Гуманитарии в основном не понимают ограничений, но представлены в информационном поле шире.
▪️Мы не знаем, как новые технологии подействуют на детей. Технологии развиваются быстро. Что отмечают ученые – сокращение у детей памяти, сокращение визуальных представлений (воображения), ухудшение зрения.
▪️Растет ли производительность? Освобождается ли время? Возможно. И на что мы тратим это время 🙂 Вы не тренируете мозг – мозг становится слабым. Как примеры – сможете ли без навигатора добраться до места, сможете ли сложить в уме большие числа.
▪️Агенты заменяют рутину, но супер-бухгалтера, супер-юриста они не заменят, нужно именно мышление. Сокращать человека или нет – это конкретное решение конкретных людей в конкретной организации, ИИ тут не при чем.
▪️Государство должно ограничить использование ИИ в социальной сфере для недопущения дискриминации. Но нужен баланс. В Европе самый жесткий закон на эту тему, но у них и не было своих ИИ-разработок и они законом ограничивают доступ американских технологий, отслеживающих социальную жизнь людей
▪️Дипфейк - реальная проблема. Особенно вокруг людей, у которых было много видео при жизни
▪️В видеохостиннге многое упирается в мощности. Может стоило в условиях небольшого рынка сделать государственный хостинг и дать к нему доступ разным игрокам рынка, чтобы они развивали собственные коммерческие продукты.
▪️Идет распыление ресурсов, вместо того, чтобы сделать 3 хороших, делаем 60 средних. Происходит дублирование функционала. Проблема большого числа операционных систем – тем, кто на них работает приходится портировать приложения под все, это высокие дополнительные затраты. С одной стороны - вроде не хватает людей, с другой стороны – распыление ресурсов. Позиция минцифры – рынок должен порешать сам, это хорошая позиция, но может дать сбой в условиях давления времени и геополитической напряженности.
▪️Чем мощнее технология – тем выше риски ИБ
▪️По уровню развития ИИ Россия – примерно на третьем месте в мире с большим разрывом между нами и следующим сверху
▪️Важно развивать критическое мышление, – огромные объемы данные не выдерживают никакой критики
От себя, несколько прикладных выводов в части архитеткуры решений:
1. Минимизируйте число целевых платформ и закладывайте слой абстракции (portability), фрагментация отечественных решений может сделать портирование скрытой стоимостью
2. Проектируйте под заменяемость каждой внешней зависимости, – «рынок порешает» означает, что именно то, что используется у вас рынок может отвергнуть и система перестанет существовать, потребуется срочная замена
3. Чем мощнее технология, тем выше риски ИБ, – security by design – must have
4. Закладывайте валидацию и происхождение данных и контента (видимо не только в технологии, но и в процессы)
https://www.youtube.com/watch?v=-3tbUsmizUc