слайды я пока не смотрел. давайте тоже выдам чёто про ИИ в математике (и больше к этой теме постараюсь не возвращаться — и так
везде обсуждают).
в-нулевых, я нейросетями всерьез не пользуюсь (в т.ч. потому что боюсь выработать толерантность к
буллшиту (см.
также)). это старомодная и во многом иррациональная позиция, но последствия меня ещё не коснулись. скоро коснутся.
во-первых, сейчас я всё-таки занимаю ксенофобскую позицию, что учёные (т.е. носители знания, то есть агенты ноосферы) — это только люди. следовательно,
читайте Тёрстона, у него всё написано: получать ответы на вопросы, генерировать теоремы — это все равно что распечатывать списки простых чисел. потому что наша цель — это человеческое понимание.
во-вторых, это не навсегда. потому что измерить понимание можно только пообщавшись, а с нейросетями можно общаться. поэтому совокупность их знаний тоже надо учитывать; это как если бы дроиды колонизировали и контролировали часть Марса. можно не считать их цивилизацией, но территорию они контролируют.
в-третьих, разница между дроидами и людьми в том, что мы сомневаемся в том, насколько у дроидов
правильная этика. она либо запрограммированная (т.е. топорная), либо получена в результате обучения (т.е. чёрный ящик для нас, это непредсказуемо). А этика для реалистически настроенных людей это очень важно.
Аналогично, для идеалистически настроенных людей очень важна эстетика. И мы аналогичным образом сомневаемся, что у нейросетевых моделей (будут) правильные эстетические воззрения (когда они выбирают, какие теоремы доказывать и как записывают доказательства). Короче, разгон такой: к ним следует относиться не как к "нерадивым аспирантам" (или какое там стандартное сравнение?), а как к аналогу
психопатов среди обычных людей.
в-четвертых, в людях мы (почему-то) меньше сомневаемся: сейчас оправданно, а со временем это (возможно) будет считаться бытовой ксенофобией. посмотрим