Queste diciture lasciano un po' il tempo che trovano, in realtà il contenuto di un corso dipende fortemente da chi lo impartisce e spesso può cambiare anche di molto. Comunque, stando alla mia limitata esperienza, "meccanica razionale" è una vecchia dicitura francese per indicare la meccanica classica del diciannovesimo secolo. Si usa solo in Italia e in Francia:
https://en.wikipedia.org/wiki/Rational_mechanics,
https://fr.wikipedia.org/wiki/M%C3%A9ca ... ationnelle.
"Sistemi dinamici" invece è un termine più moderno per indicare le equazioni differenziali ordinarie e le equazioni alle differenze. I sistemi meccanici sono sistemi dinamici, ma non tutti i sistemi dinamici vengono dalla meccanica.