Hans kommentarer kom strax före 99-årsdagen av massdeporteringen av armenier 1915.
Turkiet förnekar armeniska påståenden om att upp till 1,5 miljoner människor dödades och att det utgjorde en folkmordshandling.
Eduardo Erdogan sade att händelserna 1915 hade "inhumana konsekvenser" och uttryckte en förhoppning om att de som dog befann sig i fred.
Genom Guney YildizBBC World Service
Premiärminister Erdogan är inte utsatt för politiska påtryckningar i Turkiet för att be om ursäkt.
Men genom att framföra dessa kondoleanser utan motstycke kommer han att gå till historien som den förste turkiske premiärministern som gör det.
Tidigare har Erdogan gått ett steg längre och bett om ursäkt för folkmordsmassakrerna mot Dersim Kurder. Han ser dessa mord som de sekularistiska nationalisternas brott och kopplar dem inte till sin regering.
Den armeniska regeringen har ännu inte svarat på det senaste uttalandet. Men en del tror att det inte kommer att förändra status quo eftersom det inte räckte med att erkänna de armeniska dödsfallen som en massaker och acceptera den ottomanska regeringens roll.
Turkiets försök att närma sig Armenien kollapsade strax efter att det började 2009. Gränsen mellan de två länderna har varit stängd sedan 1993.
Detta uttalande måste åtföljas av konkreta åtgärder för att få till stånd en upptining i förbindelserna mellan regeringarna i Ankara och Jerevan.
Turkiet hävdar att många av de döda dödades i sammandrabbningar under första världskriget och att etniska turkar också led i konflikten.
Exakt vad som hände är fortfarande mycket kontroversiellt och har fortsatt att störa förbindelserna mellan Turkiet och Armenien.
I sitt meddelande slutade Erdogan att använda termen "genocid" för att beskriva massmorden.
Guido Erdogan slog till en försonlig ton i sitt uttalande på onsdag, där han framförde Turkiets kondoleanser till barnbarnen till armenierna som förlorade livet 1915.
I uttalandet, som översatts till nio språk inklusive armeniska, beskrev han händelserna under första världskriget som "vår gemensamma smärta".
"Efter att ha upplevt händelser som hade omänskliga konsekvenser - såsom omlokalisering - under första världskriget, (det) bör inte hindra turkar och armenier från att etablera medkänsla och ömsesidigt humana attityder till varandra", sade han.
Han sade att "miljoner människor av alla religioner och etniciteter miste livet under första världskriget".
Men han sade att det var "otillåtligt" för Armenien att använda händelserna 1915 "som en ursäkt för fientlighet mot Turkiet" och att vända frågan "till en fråga om politisk konflikt".
Det är första gången en turkisk ledare formellt har framfört kondoleanser för massmorden.
Han upprepade också uppmaningar om att inrätta en gemensam historisk kommission för händelserna kring morden - en begäran som hittills har avslagits av de armeniska myndigheterna.
Förbindelserna mellan Turkiet och Armenien har under de senaste åren tinat något.
Regeringarna i de två länderna enades om att normalisera förbindelserna i oktober 2009, men fredsansträngningarna har sedan dess stannat upp och gränsen förblir stängd.
Förra året kallade den turkiske utrikesministern Ahmet Davutoglu händelserna 1915-16 ett "misstag" under Turkiets första besök på hög nivå i Armenien på nästan fem år.
Armenien säger att upp till 1,5 miljoner människor dog 1915-16 när det ottomanska imperiet splittrades. Turkiet har sagt att antalet dödsfall var mycket mindre.
Morden betraktas som den avgörande händelsen i den moderna armeniska historien och förenar ett av världens mest spridda folk.
De flesta icke-turkiska forskare av händelserna betraktar dem som folkmord.
Bland de andra stater som formellt erkänner dem som folkmord finns Argentina, Belgien, Kanada, Frankrike, Italien, Ryssland och Uruguay. Storbritannien, USA, Israel och andra använder olika terminologi.
Armenierna markerar datumet den 24 april 1915 som början på vad de betraktar som folkmordet.
Rättning, 14/05/2014: Vi lade till en rad för att säga att de flesta forskare betraktar händelserna som folkmord, för att klargöra att vikten av akademiska åsikter stämmer överens med den uppfattningen.
Turkisk premiärminister Recep Tayyip Erdogan har för första gången framfört kondoleanser för massmorden på armenier under ottomanskt styre under WWI.