79% научных публикаций об AI завышают результат

→ Хабр

Статья разбирает преувеличения и реальные возможности ИИ в научных исследованиях, особенно в решении дифференциальных уравнений.

⭕️ Потенциал ИИ:
— Автоматизация науки гипотетически возможна;
— Пока ИИ-системы испытывают трудности с креативностью;
— ИИ будет обычным инструментом для постепенного прогресса.

⭕️ Опыт с PINN:
— PINN — физически-информированные нейронные сети для решения PDE;
— Метод оказался хрупким, ненадёжным и медленным;
— Оригинальная статья не показывала неудачных примеров.

◾️ Причины оптимизма:
— Отсутствие публикаций об отрицательных результатах (систематическая ошибка выжившего);
— Ошибки ведут к излишне оптимистичным выводам;
— Конфликт интересов: оценивающие ИИ часто извлекают выгоду из оценок.

🔸 Рекомендации:
— Относитесь к впечатляющим результатам ИИ со скептицизмом;
— Изучайте надёжность и уязвимость методов ИИ.

→ Все статьи 👀