לשתי המדינות יחסים דיפלומטיים מאז המאה ה-19, לאחר עצמאות יוון. שתי המדינות לחמו זו בזו במהלך מלחמת העולם הראשונה ובמלחמת העולם השנייה (שבה הייתה אוסטריה חלק מגרמניה הנאצית). כיום, שתי המדינות הן חברות מלאות באיחוד האירופי, וכמו כן, קיימת קהילה יוונית המתגוררת באוסטריה.