> Приходилось ли оптимизировать алгоритм, а не только архитектуру (Python)

Да, приходилось. Например, в одном проекте был сервис для обработки больших CSV-файлов с логами. Изначально использовался простой перебор с вложенными циклами для поиска пересечений по временным меткам - сложность была O(n*m). После профилирования выяснилось, что это узкое место. Я заменил алгоритм на сортировку данных по времени и однопроходный поиск с двумя указателями (two-pointer), что снизило сложность до O(n log n) за счёт сортировки и O(n) для самого поиска. В результате время обработки файла объёмом 500 МБ сократилось с 45 минут до 3 минут. Дополнительно использовал словари для хранения промежуточных результатов, чтобы избежать повторных вычислений.