Без заголовка

я пока не програботал глубоко сии понятия :) но оптимизационная парадигма состоит в том, чтобы сводить задачи в какой-то предметной области к задачам оптимизации - максимизировать/минимизировать ту или иную целевую функцию при тех или иных ограничениях на практике, прямолинейное применение такого подхода может привести к проблемам, ибо оптимизация имеет тенденцию усиливать шум, ошибки модели и проч грубо говоря, если бы формулируемые модели были бы верными, то разницы может быть и не было - хотя бы в теории можно было сформулировать expected cost. Но, на практике, все модели неверны, но некоторые из них полезны. Ну типа нам не известны точные распределения вероятностей. посему и возникают всякие способы как-то с этим бороться и как-то это компенсировать. и поскольку точные распределения нам неизвестны, рано или поздно мы с этим сталкиваемся, ну и нужно адаптировать модели :) вот это уже и есть что-то типа лёрнинговой парадигме. грубо говоря, мы если и ставим оптимизационные задачи, то понимаем что они вообще говоря кривые, ну и надо как-то с этим бороться и все такое :) Один из типичных примеров - оптимизация портфеля по марковицу. Типа в теории и in sample все хорошо, но out of sample все ужасно :). Одна из проблем состоит в том, что из-за "шума", два актива (или две комбинации активов) могут выглядеть очень похожими с точки зрения корреляции, но обладать чуть разными доходностями, ну и прямолинейный оптимизатор портфеля продаст один актив, купит другой, считая что нетто-позиция кагбэ не шибко рискованная и все такое. Вобщем, много всяких случаев когда "оптимальные" решения при каких-то допущениях на практике выходят боком из-за того что эти допущения не выполняются. Ну и тут начинается всякая robustness и проч :)