On – используется, если предмет или лицо находится на чем-то, на поверхности чего-либо или поверх чего-то:
I put the plate on the table. – Я поставил тарелку на стол.
John always sits on his favorite chair. – Джон всегда сидит на его любимом стуле.
At – используется, когда предмет или находится в какой-либо точке в пространстве, рядом с местом. Можно представить что предмет – это точка, маркер на карте:
I lest my umbrella at the bus stop.