Почему солнце всходит и заходит именно на Востоке ?

Потому что солнце всегда всходило именно на востоке, а слово восток дали этой стороне потом. Оно созвучно со словом восход, а слово запад созвучно со словом западает. Солнце, типа, западает за горизонт.) Это на нашем языке. На других языках, естественно, это звучит по-другому.