Sachverhalt:
A. Das Bezirksgericht Zürich verurteilte X._ am 16. September 2009 wegen mehrfacher Widerhandlung gegen Art. 19 Ziff. 1 Abs. 4 und 5 BetmG zu einer unbedingten Freiheitsstrafe von sieben Monaten, unter Anrechnung von zwei Tagen Untersuchungshaft. Zudem zog es bei X._ Fr. 1'057.-- zur teilweisen Kostendeckung sowie zwei Mobiltelefone zur Verwertung ein.
X._ legte beim Obergericht des Kantons Zürich Berufung im Strafpunkt ein, welches mit Urteil vom 22. März 2010 die unbedingte Freiheitsstrafe von sieben Monaten sowie die Einziehung der Barschaft bestätigte, nicht jedoch die Einziehung der beiden Mobiltelefone.
B. X._ führt Beschwerde in Strafsachen beim Bundesgericht. Er beantragt, das vorinstanzliche Urteil sei aufzuheben und der Vorinstanz zur Neubeurteilung zurückzuweisen. Zudem sei das vorinstanzliche Urteil dahingehend abzuändern, dass die gegen ihn ausgesprochene Sanktion von sieben Monaten Freiheitsstrafe eine adäquate Abänderung zu seinen Gunsten erfahre. Eine gegen ihn zu verhängende Freiheitsstrafe sei bedingt auszusprechen, eventualiter verbunden mit einer angemessenen unbedingten Geldstrafe.
C. Es wurden keine Vernehmlassungen eingeholt.

Erwägungen:
1. Gemäss Anklageschrift übergab der Beschwerdeführer am 29. Oktober 2008 jeweils in Zürich 0,5g Kokain an eine Drogenkonsumentin gegen Barzahlung von Fr. 30.-- sowie weitere 0,5g Kokain an einen Drogenkonsumenten für Fr. 38.--. Dieses Kokain hatte er zuvor ebenfalls in Zürich für Fr. 55.-- gekauft.
2. 2.1 Der Beschwerdeführer wendet sich gegen die Anordnung einer unbedingten Freiheitsstrafe von sieben Monaten, die unter den bei ihm gegebenen Umständen nicht zweckmässig im Sinne der bundesgerichtlichen Rechtsprechung sei. Vorliegend gehe es um Kleinstmengen von Drogen; zudem sei er seit mehr als zwei Jahren deliktsfrei geblieben und bemühe sich mit allen Kräften, im System zu funktionieren. Es würde daher dem spezialpräventiven Strafzweck diametral zuwiderlaufen, falls seine Bestrebungen, Beteuerungen sowie sein Wille keine rechtsrelevante Beachtung erführen. Das vorinstanzliche Urteil gewichte das generalpräventive Element zu stark (Beschwerde, S. 3 f.).
Bis zu einem Strafmass von sechs Monaten seien nach geltendem Recht Freiheitsstrafen nicht mehr vorgesehen. Da die Sanktion von sieben Monaten nur wenig über dieser Limite liege, hätte die Vorinstanz den Unrechtsgehalt des strafbaren Verhaltens gerechter abwägen sollen (Beschwerde, S. 4).
Der Beschwerdeführer macht ausserdem geltend, dass ihm entgegen den vorinstanzlichen Ausführungen durchaus eine günstige Prognose zugebilligt werden könne, zumal er geständig sei. Um einer Aufenthaltsbewilligung nicht definitiv verlustig zu gehen, dürfe er sich nichts mehr zuschulden kommen lassen, weshalb auch darum eine gute Legalprognose indiziert werden dürfe (Beschwerde, S. 5 f.).
2.2 Die Vorinstanz erwägt, dass die objektive Tatschwere noch leicht wiege. Bezüglich der subjektiven Tatschwere seien die Ausflüchte des Beschwerdeführers jedoch "als plumpe Schutzbehauptungen" einzustufen. Er habe als Nicht-Drogensüchtiger in reiner Bereicherungsabsicht und nicht in einer finanziellen Notlage gehandelt, da er im Tatzeitpunkt eine Anstellung gehabt habe und von den Sozialbehörden unterstützt worden sei (angefochtenes Urteil, S. 7).
Eine besondere Strafempfindlichkeit weise der Beschwerdeführer nicht auf. Er zeige auch keine besondere Reue oder Einsicht. Sein Geständnis sei nach anfänglichem Bestreiten nur zögerlich erfolgt. Massiv straferhöhend wirkten sich die zahlreichen einschlägigen Vorstrafen aus. Die in Berücksichtigung der massgeblichen Strafzumessungskriterien erstinstanzlich ausgesprochene Freiheitsstrafe von sieben Monaten sei angemessen. Zudem sei einzig eine Freiheitsstrafe angesichts der bisherigen (mit Freiheitsstrafen sanktionierten) Vorstrafen zweckmässig, zumal der Beschwerdeführer sich bislang nicht von immer wiederkehrender Delinquenz abhalten liess. Die gegenüber der Freiheitsstrafe mildere Sanktion der Geldstrafe sei vor diesem Hintergrund geradezu widersinnig (angefochtenes Urteil, S. 7 f.).
Die erste Instanz habe dem Beschwerdeführer mit zutreffenden Erwägungen den bedingten Strafvollzug verweigert. Besonders günstige Umstände im Sinne von <ref-law> seien keine auszumachen, im Gegenteil sei seine deliktische Einstellung hartnäckig. Auch die ihm erstinstanzlich noch positiv angerechnete Arbeitsstelle habe ihn nicht vom Delinquieren abgehalten, überdies sei er derzeit arbeitslos. Weder die Rückkehr seiner Ehefrau in die Schweiz noch die allfällige Wiederaufnahme einer Arbeit reichten für die Bejahung besonders günstiger Umstände aus. Dem Beschwerdeführer sei vielmehr ausdrücklich eine schlechte Legalprognose zu stellen (angefochtenes Urteil, S. 9).
2.3 Gemäss <ref-law> misst der Richter die Strafe nach dem Verschulden des Täters zu. Er berücksichtigt das Vorleben, die persönlichen Verhältnisse sowie die Wirkung der Strafe auf das Leben des Täters. Die Bewertung des Verschuldens wird in <ref-law> dahingehend präzisiert, dass dieses nach der Schwere der Verletzung oder Gefährdung des betroffenen Rechtsguts, nach der Verwerflichkeit des Handelns, den Beweggründen und Zielen des Täters sowie danach bestimmt wird, wie weit der Täter nach den inneren und äusseren Umständen in der Lage war, die Gefährdung oder Verletzung zu vermeiden. Es liegt im Ermessen des Sachrichters, in welchem Umfang er die verschiedenen Strafzumessungsfaktoren berücksichtigt.
Die Strafrechtliche Abteilung des Bundesgerichts greift auf Beschwerde in Strafsachen hin nur in die Strafzumessung ein, wenn die Vorinstanz den gesetzlichen Strafrahmen über- oder unterschritten hat, wenn sie von rechtlich nicht massgebenden Kriterien ausgegangen ist oder wesentliche Gesichtspunkte ausser Acht gelassen beziehungsweise in Überschreitung oder Missbrauch ihres Ermessens falsch gewichtet hat. Nach <ref-law> hat der Richter die für die Zumessung der Strafe erheblichen Umstände und deren Gewichtung festzuhalten. Besonders hohe Anforderungen an die Begründung der Strafzumessung werden unter anderem gestellt, wenn die ausgesprochene Strafe ungewöhnlich hoch oder auffallend milde ist (<ref-ruling> E. 2.1 mit Hinweisen).
2.4 Der Beschwerdeführer stellt unter anderem den Antrag, dass die gegen ihn ausgesprochene Freiheitsstrafe eine adäquate Abänderung zu seine Gunsten erfahren, jedenfalls aber bedingt ausgesprochen werden solle. Er legt in seiner Beschwerde freilich nicht dar, inwiefern die ausgefällte Strafhöhe Bundesrecht verletzen würde. Er weist lediglich darauf hin, dass die Sanktion von sieben Monaten nur wenig über der Untergrenze für Freiheitsstrafen von sechs Monaten liege, weshalb der Unrechtsgehalt gerechter hätte abgewogen werden sollen. Eine sinngemässe Berücksichtigung der bundesgerichtlichen Rechtsprechung zum gesetzlichen Grenzwert des bedingten und teilbedingten Vollzugs von Strafsanktionen (<ref-ruling>) ist aber nicht am Platz, da im Rahmen von <ref-law> auch eine unbedingte Freiheitsstrafe von weniger als sechs Monaten ausgesprochen werden kann. Der Beschwerdeführer vermag allerdings ohnehin nicht darzutun, dass die Vorinstanz den Unrechtsgehalt der begangenen Delikte falsch veranschlagt und ihr Ermessen bei der Strafzumessung überschritten hätte. Auf die Beschwerde ist daher, soweit der Beschwerdeführer das vorinstanzlich ausgefällte Strafmass in Frage stellt, nicht einzutreten.
2.5 Der Beschwerdeführer wendet sich auch gegen die vorinstanzliche Nichtgewährung des bedingten Strafvollzugs. Bei der Prüfung, ob der Verurteilte für ein dauerndes Wohlverhalten Gewähr bietet, ist eine Gesamtwürdigung aller wesentlichen Umstände vorzunehmen. In die Beurteilung einzubeziehen sind neben den Tatumständen auch das Vorleben und der Leumund sowie alle weiteren Tatsachen, die gültige Schlüsse auf den Charakter des Täters und die Aussichten seiner Bewährung zulassen. Für die Einschätzung des Rückfallrisikos ist ein Gesamtbild der Täterpersönlichkeit unerlässlich. Relevante Faktoren sind etwa strafrechtliche Vorbelastung, Sozialisationsbiographie und Arbeitsverhalten, das Bestehen sozialer Bindungen sowie Hinweise auf Suchtgefährdungen. Dabei sind die persönlichen Verhältnisse bis zum Zeitpunkt des Entscheides zu berücksichtigen. Es ist unzulässig, einzelnen Umständen eine vorrangige Bedeutung beizumessen und andere zu vernachlässigen oder überhaupt ausser Acht zu lassen. Wie bei der Strafzumessung (<ref-law>) müssen die Gründe im Urteil so wiedergegeben werden, dass sich die richtige Anwendung des Bundesrechts überprüfen lässt (<ref-ruling> E. 3a; <ref-ruling> E. 2b).
2.6 Der Beschwerdeführer kann die von der Vorinstanz vorgenommene Gesamtwürdigung seiner Persönlichkeit mit Blick auf seine Legalprognose nicht in Frage stellen. So belegt er seine Behauptung, willens zu sein, im hiesigen Rechtssystem zu bestehen, nicht. Das von ihm geltend gemachte Geständnis, das gemäss den vorinstanzlichen Sachverhaltsfeststellungen überdies nur zögerlich sowie ohne Reue und Einsicht erfolgt ist, kann die Legalprognose ebenfalls nicht entscheidend beeinflussen. Dasselbe gilt für den drohenden definitiven Verlust der Aufenthaltsbewilligung, wenn er sich nicht bewährte. Die Vorinstanz leitet aus diesem Umstand keine positiven Schlüsse in Bezug auf den Charakter sowie die Bewährungsaussichten des Beschwerdeführers ab, was nicht zu beanstanden ist.
Die geltend gemachte rund zweijährige deliktsfreie Zeit des Beschwerdeführers berücksichtigt die Vorinstanz bei ihrer Prognosebildung zwar nicht. Dies ist aber ebenfalls nicht zu beanstanden. Die Vorinstanz trägt damit vielmehr dem Umstand Rechnung, dass ein deliktsfreies Verhalten zwischen dem Abschluss der Strafuntersuchung und der Urteilsfällung vorausgesetzt werden darf. Eine Verletzung von Bundesrecht liegt bei der vorinstanzlichen Bildung der Legalprognose des Beschwerdeführers nicht vor.
3. Die Beschwerde ist abzuweisen, soweit darauf einzutreten ist. Bei diesem Ausgang des Verfahrens trägt der Beschwerdeführer die Kosten (<ref-law>). Er stellt indes mit Eingabe vom 14. Juni 2010 ein Gesuch um unentgeltliche Rechtspflege gemäss 64 Abs. 1 und 2 BGG. Dieses kann bewilligt werden, wenn von seiner Bedürftigkeit auszugehen und diese ausreichend belegt ist sowie seine Beschwerde nicht von vornherein aussichtslos war (zum Ganzen: <ref-ruling> E. 4). Dem Beschwerdeführer und Gesuchsteller obliegt es, seine eigenen Einkommens- und Vermögensverhältnisse umfassend darzulegen und soweit wie möglich zu belegen. Praxisgemäss weist das Bundesgericht die Bewilligung der unentgeltlichen Rechtspflege ab, wenn der Gesuchsteller seinen Obliegenheiten nicht nachkommt. Der Gesuchsteller räumt in seinem Gesuch ein, dass "zweifellos noch weitere Dokumente einzureichen sein werden". Am letzten Tag vor Ablauf der gewährten Fristerstreckung bat er per Fax vom 13. Juli 2010 um Mitteilung, welche Unterlagen einzureichen seien, damit eine Prüfung der Mittellosigkeit erfolgen könne.
Dem anwaltlich vertretenen Gesuchsteller ist es ohne weiteres bekannt, wie er seine Einkommens- und Vermögensverhältnisse darzulegen und zu belegen hat. Da er innert - erstreckter - Frist keinerlei Dokumente eingereicht hat, aus denen sich die Einkommens- und Vermögensverhältnisse ergeben würden, sind ihm die vollen Kosten aufzuerlegen.

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Das Gesuch um unentgeltliche Rechtspflege wird abgewiesen.
3. Die Gerichtskosten von Fr. 2'000.-- werden dem Beschwerdeführer auferlegt.
4. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Zürich, I. Strafkammer, schriftlich mitgeteilt.
Lausanne, 29. Juli 2010
Im Namen der Strafrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Favre Keller