Senos laikos olīvas bija visas Vidusjūras simbols. Kopā ar ozolu tas ir visvairāk cienīts koks grieķu mitoloģijā. Interesanti, ka grieķi kā galveno tauku avotu izmantoja olīvas. Gaļa bija barbaru ēdiens, un tāpēc to uzskatīja par neveselīgu.
Grieķu mitoloģija olīvkoka izcelsmi Atēnās skaidro šādi. Atēna ir Zeva (grieķu mitoloģijas augstākā dieva) un Metisa meita, kas simbolizēja viltību un apdomību. Atēna bija kara dieviete, kuras atribūti bija šķēpi, ķivere un vairogs. Turklāt Atēna tika uzskatīta par taisnīguma un gudrības dievieti, mākslas un literatūras aizstāvi. Viņas svētais dzīvnieks bija pūce, un olīvkoks bija viens no viņas raksturīgajiem simboliem. Iemesls, kāpēc dieviete par savu simbolu izvēlējās olīvu, ir izskaidrots šādā mītiskā pasakā:
Grieķijā olīvkoks simbolizē mieru un labklājību, kā arī augšāmcelšanos un cerību. Par to liecina notikumi, kas notika pēc Atēnu nodedzināšanas, ko 5. gadsimtā pirms mūsu ēras veica Persijas karalis Kserkss. Kserkss nodedzināja visu Akropoles pilsētu kopā ar gadsimtu vecajiem Atēnu olīvkokiem. Taču, kad atēnieši ienāca apdegušajā pilsētā, olīvkokam jau bija sācies jauns zars, kas simbolizēja strauju atveseļošanos un atjaunošanos grūtību priekšā.
Ar olīvkoku tiek saistīts arī viens no slavenākajiem mitoloģiskajiem varoņiem Hercules. Neskatoties uz savu ļoti jauno vecumu, Herkulsam izdevās uzvarēt lauvu Čitaeronu tikai ar roku un olīvkoka nūju palīdzību. Šis stāsts slavināja olīvu kā spēka un cīņas avotu.
Olīvkoks, būdams svēts, bieži tika izmantots kā mirstīgo upuris dieviem. Tas ir labi aprakstīts stāstā par Teseju, Atikas nacionālo varoni. Tesejs bija Egejas jūras Atikas karaļa dēls, kurš savas dzīves laikā devās neskaitāmos piedzīvojumos. Viena no tām bija konfrontācija ar Mīnotauru Krētas salā. Pirms kaujas Tesijs lūdza arī Apollo aizsardzību.
Auglība bija vēl viens olīvkoka atribūts. Atēna ir auglības dieviete un viņas simbols bija viens no visvairāk kultivētajiem kokiem Grieķijā, kura augļi gadsimtiem ilgi baroja hellēņus. Tādējādi tie, kas vēlējās palielināt savu zemju auglību, meklēja olīvu.
Attiecības starp seno grieķu sabiedrību un olīvkoku bija ļoti intensīvas. Olīva simbolizēja spēku, uzvaru, skaistumu, gudrību, veselību, auglību un bija svēts ziedojums. Īsta olīveļļa tika uzskatīta par augstvērtīgu objektu un tika piedāvāta kā balva uzvarētājiem konkursos.