Ondřej Bojar

Strojový překlad a model Transformer: Jak vznikla dnešní “umělá inteligence”

V přednášce představím úlohu strojového překladu včetně několika zásadních technologických milníků, jimiž za poměrně krátkou dobu prošla. Převrat v roce 2017 způsobil model Transformer, který dnes zná doslova každý pod populárním názvem “umělá inteligence”. Velké jazykové modely stojí na Transformeru a v přednášce si ukážeme některá jeho poměrně překvapivá omezení. Domů si odnesete jako nejpodstatnější poučení, jakých chyb byste se měli vyvarovat při návrhu experimentů s hlubokými neuronovými sítěmi nebo hodnocení výstupů “umělé inteligence”.