Шиза

На функане препод таки сформулировал одну из теорем в виде того, что определенная "диаграмма коммутирует". Словил каеф

Пытался разобраться в проекте одногруппника, где он хотел застекать

RPCA -> CNN -> Lasso -> ANN Classifier

Пытались разобраться, что такое RPCA(что такое PCA я и так узнал недавно из курса, который, надеюсь, когда-нибудь закончится) и какой смысл в SVD. Оказывается SVD(сингулярное разложение матрицы) очень крутая штука, но надо в ней разобраться, чтобы понять ее смысл.

Еще я не понял, как обучать такие застеканные модели и стало интересно, буду разбираться. Пока затаривались в ленте, я подумал, что каждый промежуточный шаг можно обучить на самостоятельный classifier, но в CNN отбросить выходной слой, а в Lasso делать логистическую регрессию. Правда все равно Lasso не очень хорошо вписывается, разве что не использовать ее таким образом только для dimensionality reduction(как же запутывается язык пока я говорю первое слово).

Также понятия из теорвера(корреляция, ковариация) одногруппник забыл, хотя завтра кр по сути по ним 😒

Захотелось даже разобраться с RPCA, которая походу просто более стабильная PCA, и написать статью, но надо еще делать курсовую :-/

А, еще прочитал на перерыве немного про github actions. Прикольная штука, подумал где ее можно использовать, чтобы потестить. Придумал только взять сервера с цтфок и патчить их, запуская CI на эксплоиты. Пока писал понял, что это слишком замудрено, мб сделаю что-нить попроще.

Хотя казалось бы, корреляция это просто скалярное произведение в пространстве случайных переменных

Ля, ковариация

Корреляция это косинус угла между переменными

В общем, если мы любим геометрию, то корреляция 0 означает, что с.в. "перпендикулярны" и, по сути, независимы, хотя строго говоря это не всегда так.

И тогда "длина" с.в. это корень из дисперсии aka std aka стандартное отклонение aka standard deviation

Ну и корреляция = 1 это "линейно зависимые" с.в., в том смысле, что одна с.в. выражается через другую линейно с положительным коэффициентом, а корреляция = -1 с отрицательным коэффициентом.