Οι πρώτες διαπραγματεύσεις για την υπογραφή μιας Συνθήκης Συνδέσεως με την ΕΟΚ ξεκίνησαν το 1959 και κύριος διαπραγματευτής από ελληνικής πλευράς είχε οριστεί ο Γιάγκος Πεσματζόγλου. Η Συνθήκη Συνδέσεως υπογράφηκε επίσημα στην Αθήνα στις 9 Ιουλίου 1961 και προέβλεπε την ενεργοποίησή της από τον Νοέμβριο του 1962.
Η περίοδος της Χούντας, εκτός των άλλων, είχε ως αποτέλεσμα την διεθνή απομόνωση της Ελλάδας. Ο Καραμανλής ως πρωθυπουργός έπρεπε να αναθερμάνει τις σχέσεις της Ελλάδας με τις χώρες της Ευρωπαϊκής Κοινότητας ώστε να προετοιμάσει το έδαφος για την υποβολή της επίσημης αίτησης ένταξης στην ΕΟΚ. Οι Ευρωπαίοι ήταν πολύ επιφυλακτικοί διότι φοβούνταν ότι η ένταξη της Ελλάδας στην ΕΟΚ θα εισήγαγε τις ελληνοτουρκικές αντιθέσεις στην Κοινότητα.
Ο Καραμανλής άρχισε από τις αρχές του 1975 να επισκέπτεται τις ευρωπαϊκές πρωτεύουσες προκειμένου να πείσει τους Ευρωπαίους ηγέτες ότι η ελληνική αίτηση θα έπρεπε να αυστηρώς και μόνον καθ’ αυτή. Τον Φεβρουάριο του 1977 η Εκτελεστική Επιτροπή της ΕΟΚ θεωρούσε ότι «το Ελληνικό Ζήτημα θεωρείται λυμένο», αλλά διάφορα οικονομικά και διπλωματικά θέματα καθυστέρησαν την υπογραφή της Συνθήκης Ενταξης της Ελλάδας στην ΕΟΚ.
Τελικά η Συνθήκη με την οποία η Ελλάδα γινόταν το 10ο ισότιμο και πλήρες μέλος των Ευρωπαϊκών Κοινοτήτων υπογράφηκε στις 28 Μαίου 1979 στο Ζάππειο Μέγαρο στην Αθήνα παρουσία των πρωθυπουργών και υπουργών Εξωτερικών των μελών της ΕΟΚ.
Η είσοδος της Ελλάδας στην Ευρωπαϊκή Οικονομική Κοινότητα (ΕΟΚ) ήταν έργο ζωής για τον Κωνσταντίνο Καραμανλή. Πίστευε ότι η είσοδος της Ελλάδας στη μεγάλη ευρωπαϊκοί αγορά θα της παρείχε όλες τις δυνατότητες για να σταθεί αντάξια της κληρονομιάς της και για οικονομική ανάπτυξη.
