Этимологический словарь Макса Фасмера
ухмыляться
ухмыля́ться
ухмы́ла "тот, кто постоянно улыбается".
Родственно ср.-в.-н. smollen "недовольно молчать, улыбаться", smielen "улыбаться", стар. нидерл. smuylen "улыбаться", бав. schmollen "улыбаться", норв. smolla, smullа – то же, smuslа – то же; см. Уленбек, РВВ 22, 199; 26, 307 и сл.; Торп 531. Наряду с этим – ухмеля́ться "улыбаться", где -е- Потебня (РФВ 4, 206) объяснял из смея́ться.