tçıların daha sert eylemlere yöneldiği yıl oldu. 30 Eylül 1895 tarihinde başkentte düzenlenen büyük Ermeni yürüyüşünde Müslüman halkın Ermenilerin karşısına çıkmasıyla 3 gün kanlı çatışmalar yaşanmıştı. Bu gelişme karşısında eyleme geçen cemiyet üyeleri olanların yönetimin basiretsizliğinden kaynaklandığına, halkın yönetime karşı harekete geçmesi gerektiğine dair bildirgeleri dağıttılar, duvarlara yapıştırdılar. Eylemleri, pek çok tıbbiyeli üyenin hapse düşmesi veya sürgüne gönderilmesine neden oldu.

Kimi cemiyet üyeleri karşılaştıkları sert uygulamalar nedeniyle cemiyetin yardımı ile Avrupa ülkeleri veya Mısır'a kaçtılar; kimileri cemiyet tarafından Avrupa'ya gönderilip eğitimlerini orada tamamladılar. Yurt dışına giden üyeler, gittikleri yerlerde cemiyetin eylem merkezlerini oluşturdular.

Tıbbiye'nin üçüncü sınıfındaki Selanikli Nâzım, öğrenimini tamamlaması ve bir yandan da örgüt için faaliyet göstermesi için 1894 yılında cemiyet tarafından Paris'e gönderildi, Paris Tıp Fakültesi'ne kaydoldu. Kendisinden, o sırada Paris'te bulunan ve Jön Türkler arasında etkin bir isim olan Ahmet Rıza Bey’i cemiyete üye yapması istenmişti. Ahmet Rıza Bey, 1889 yılında Bursa Maarif Müdürü iken bir görevle Paris’e gitmiş ancak geri dönmeyip Paris'e yerleşmiş bir Osmanlı aydını idi. Ülkeyi ve halkı kurtarmanın ancak pozitif bilimleri ve eğitimi yaymakla mümkün olacağını düşünüyor; düşüncelerini padişaha layihalar halinde sunmanın yanı sıra bastırıp dağıtıyor ve "La Jeune Turque" gazetesinde siyasi yazılar yazıyordu. Yazıları Paris’e kaçan öğrenciler arasında yankı uyandıran Ahmet Rıza, Selanikli Nazım’ın teklifini kabul etti ve cemiyetin Avrupa teşkilatı kuruldu. Avrupa’da faaliyet gösteren muhalifler "Osmanlı Terakki ve İttihat Cemiyeti" adı altında birleşti. Avrupa teşkilatının başkanı Ahmet Rıza, üyeleri Selanikli Nazım, Şerafettin Mağmumi ve Milaslı Halil Bey (Menteşe) idi Terakki ve İttihat, Aralık 1895’ten itibaren Türkçe “"Meşveret"" gazetesini ve onun eki olan Fransızca "Mechevéret Supplément" adlı yayınları çıkardı.

Mülkiye Mektebi'nde tarih hocası olarak ünlenmiş Murat Bey de 1895 sonunda İstanbul'dan kaçarak Paris'e gitti. İstanbul'da çıkardığı Mizan gazetesinde yönetime yönelttiği eleştiriler sonucu gazetesi 1890’da kapatılmış; hazırladığı reform teklifi padişahtan ilgi görmemişti. İstanbul’dan kaçıp geldiği Paris'te Ahmet Rıza Bey’den beklediği ilgiyi göremeyince Londra'ya ve ardından Kahire'ye giden Mizancı Murat Bey, düşüncelerini yaymak üzere Ocak 1896’dan itibaren gazetesi “Mizan”’ı Kahire’de yayımladı. Anayasanın yürürlüğe konulmasını, İslam dünyasını birleştiren bir meşruti yönetim kurulmasını istiyordu. Yazıları nedeniyle idama mahkum edildi; İngiliz yönetimi tarafından Mısır’dan çıkarıldı ve tekrar Paris’e geldi. Faaliyetleri ile Jön Türk düşüncesinde ve gruplaşmasında önemli rol oynadı.

1895 yılından itibaren tıbbiyelilerin hapis ve sürgün gibi nedenlerle dağılmasından sonra cemiyetin içinde memur, subay, ulema gibi başka çevrelerden üyeler etkin oldular. 1896 yılında cemiyetin yurt içindeki örgütlenmesinin başında Harbiye Nezareti Levazımatı muhasebe müdürlerinden "Hacı Ahmet Bey" vardı. Kendisi, darbe yanlısı bir kimseydi. Onun önderliğinde yurt içindeki üyeler, II. Abdülhamid'i devirip yerine V. Murad'ı tahta geçirmeyi planladılar ancak bu plan uygulanamadan ortaya çıktı. Cemiyetin ileri gelenleri Fizan, Trablus, Akka, Bingazi gibi uzak yerlere sürgün edildiler.

Bu olaydan sonra Harp Mektebi cemiyetin yeni merkezi olarak ortaya çıktı. Harp Mektebi öğrencileri, Askeri Mektepler Nazırı Zeki Paşa'ya bir suikast planlamışken aralarından Giritli Halim'in ele vermesi sonucu yakalandılar. Sultan II. Abdülhamid, bir sene önceki darbe girişiminden sonra kendisini garanti altına almak istiyordu bu nedenle büyük bir tutuklama operasyonu yapıldı. 630 kişi tutuklandı; içlerinden 78 kişi Şeref Vapuru'na bindirilip Fizan'a gönderildi. 15 Eylül 1897 tarihinde Trablusgarp'a indiklerinde valinin de yardımıyla Fizan'a gitmek yerine orada hapsedildiler. Bu sürgün olayı, tarihe "Şeref Kurbanları" olarak geçmiştir ve II. Abdülhamid'in saltanatındaki en büyük sürgün olayıdır.

II. Abdülhamid'e darbe girişiminden sonra cemiyetin İstanbul merkez teşkilatı çalışamaz hale geldi. İttihatçılar Avrupa'da toplandılar. Merkezleri Paris idi; ancak Osmanlı sarayının baskısıyla cemiyet Paris'ten çıkarıldı ve yayın organları Meşveret kapatıldı. Cemiyet önce Brüksel'e taşındı ancak oradan da çıkarıldı.

1896 yılında Paris'te gerçekleşen olağanüstü toplantısında Mizancı Murat Bey cemiyet başkanlığına getirildi. Ahmet Rıza, Paris şubesinin başkanı olarak siyasi faaliyetlerini Dr. Nazım Bey ile birlikte Paris'te sürdürdü. Cemiyetin merkezi ise Cenevre'ye taşındı; Mizancı Murat, Mizan dergisini Cenevre'de çıkarmaya başladı. Abdullah Cevdet ve İshak Sükûti de Cenevre'ye gelerek Osmanlı gazetesini çıkardılar.

Padişah, Avrupa'daki İttihatçıları mücadeleden vazgeçirmek için Serhafiye Ahmed Celaleddin Paşa'yı görevlendirdi. Paşa, 1897 yılı Haziran ayında Paris'e gitti. 10-22 Temmuz 1897 tarihinde Paris'te yayımlanan bir hükümet bildirisi ile İttihatçılara yurda dönmeleri halinde affedilecekleri, memuriyet verileceği, Avrupa’da eğitimlerine devam etmek isterlerse maaş bağlanacağı ama yayınlarına devam ederlerse vatandaşlıktan çıkarılacakları, yurda dönmelerine izin verilmeyeceği bildirildi. İlk olarak Mizancı Murad, Ahmed Celaleddin Paşa ile anlaştı ve yurda döndü. Onu diğer bazı ittihatçılar izledi. Bir kısmı öğrenimlerini sürdürdüler; bir kısmı ise elçiliklerde görev kabul ettiler. Cemiyetin Cenevre merkez komitesi dağıldı. Ahmet Rıza, Dr. Nazım ve Halil Ganem ise Ahmet Paşa ile hiçbir teması kabul etmedi.. Onların tutumundan etkilenen Dr. Bahattin Şakir, Samipaşazade Sezai gibi gençler cemiyete katıldı.

1899 yılında II. Abdülhamid'in eniştesi ve eski adliye nazırı olan Damat Mahmud Celaleddin Paşa'nın oğulları Lütfullah ve Sabahattin'in birlikte Avrupa'daki İttihatçılara katılması cemiyete güç verdi. Paşa, Osmanlı gazetesini İshak Sükûti'den devralıp Londra'da çıkarmaya başladı.

Cemiyetin Cenevre şubesinin kurucusu Tunalı Hilmi, 1898 yılında Mısır'a giderek Kahire merkezini yeniden kurmuştu. Bir kongre düzenleme düşüncesini öne atarak 20 Ekim 1899’da gerçekleşmesini düşündüğü kongreye İttihatçıları davet etti ama olumlu tepkilere rağmen bu planı zamanında gerçekleşmedi.

Damat Mahmut Paşa ve oğulları da İstanbul hükümetinin baskıları sonucu Londra'dan ayrılmak zorunda kalınca Mısır'a gitmişlerdi. Mısır'da Prens Lütfullah ve Sabahattin, "Umum Osmanlı Vatandaşlara" hitaplı iki beyanname ile Jön Türkler'in bir kongre düzenlemesini önerdiler. Bu çağrı sonucu 4-9 Şubat 1902 tarihleri arasında Paris'te "Birinci Osmanlı Liberaller Kongresi" adıyla bir kongre toplandı.

Sonradan "I. Jön Türk Kongresi" diye anılan kongre, Fransız senatosu üyesi Lefévre-Pontalis'in evinde 47 kişinin katılımı ile gerçekleştirildi. Bu kongrede cemiyet, adem-i merkeziyet fikrini savunan Prens Sabahaddin öncülüğündeki grupla, merkeziyetçi Ahmet Rıza öncülüğündeki grup arasında ikiye bölündü. Düzenlenecek bir ihtilal için başka devletler ile işbirliği yapmak düşüncesine Ahmet Rıza grubunun katılmaması üzerine kongre bir karar alamadan dağıldı.

Kongreden sonra Ahmet Rıza Bey'in temsilcisi olduğu grup, Terakki ve İttihat Cemiyeti adı altında faaliyetlerini sürdürdü; Mısır’da Şura-yı Ümmet dergisi çıkarıldı. Prens Sabahattin’in temsil ettiği görüşleri savunanlar ise onun liderliğinde kurulan Teşebbüs-i Şahsî ve Adem-i Merkeziyet Cemiyeti çatısı altında faaliyetlerini sürdürdü; yeni cemiyetin yayın organı olarak Terakki gazetesini çıkardılar.

1906 yılının Eylül ayında Selanik'te istibdat yönetimini yıkmayı amaçlayan ihtilalci bir cemiyet olan "Osmanlı Hürriyet Cemiyeti" kuruldu. Yönetimi Mehmet Talat, İsmail Canbulat ve Rahmi Bey üstlenmişti. Aynı günlerde Mustafa Kemal, Şam'da Beşinci Ordu subayları arasında Vatan ve Hürriyet Cemiyeti adlı örgütü kurmuş ve hemen ardından kısa bir süre için Selanik'e gidip orada bir şube açmıştı. Osmanlı Hürriyet Cemiyeti önce Vatan ve Hürriyet ile birleşti. Makedonya’da hızlı yayılıp genç subaylar arasında taraftar bulan dernek, gizlice Selanik'e gidip görüşmeler yapan Doktor Nazım’ın çabaları sonucu merkezi Paris’te bulunan Osmanlı Terakki ve İttihat Cemiyeti ile 27 Eylül 1907 tarihinde resmen birleşti.

Birleşme sırasında cemiyetin adı da değişti ve Osmanlı İttihat ve Terakki Cemiyeti (İTC) oldu. Paris, cemiyetin dış merkezi; Selanik ise iç merkezi olarak kabul edildi. Bu birleşme ile İttihat ve Terakki siyasi niteliğinin yanı sıra askeri bir nitelik de kazandı.

29 Ekim 1907 tarihinde Mustafa Kemal de arkadaşı Ali Fethi Okyar'in ısrarı ile 322 numaralı üye olarak derneğe girdi.

1907 yılı sonunda Paris'te tüm muhalif gruplar ve Ermeni Devrimci Federasyonu (Taşnaksutyun)'un katılımı ile Ahmet Rıza, Prens Sabahaddin ve Malumyan'ın ortak başkanlığında II. Jön Türk Kongresi düzenlendi. Bu sefer dış müdahale konusu ortaya atılmadı ve üç gün süren kongre çalışmalarını 29 Aralık’ta tamamlayarak bir bildirge yayımladı. Bu beyanname ile katılımcıların II. Abdülhamid’i tahttan inmeye zorlamak ve parlamenter bir yönetimin kurulması etrafında birleştikleri duyuruldu.

Merkezi Selanik'te bulunan 3. Ordu'nun gerçekleştirdiği 1908 Devrimi'ni Selanik'te bulunan İttihat ve Terakki merkez komitesi organize etti. Bir iddiaya göre ihtilalin, Abdülhamid’in tahta çıkış günü olan 1 Eylül’de yapılması planlanmıştı. 3 Mart 1908’de İngiltere’nin Makedonya sorunu hakkında yayımladığı genelge, yöreye olası bir müdahaleyi engellemek isteyen cemiyet üyesi subayları harekete geçirdi. 3 Temmuz 1908 tarihinde Resne'de Kolağası Resneli Niyazi Bey'in 200 asker ve 200 sivilden oluşan bir çete ile dağa çıkması ile ihtilal fiilen başladı. II. Abdülhamid'in dağa çıkanlara karşı aldığı tedbirler, subayların genellikle cemiyet üyesi olması nedeniyle işe yaramadı. Cemiyetin Manastır merkezi, padişaha, Kanun-ı Esasî'yi yürürlüğe koymasını ve 26 Temmuz'a kadar Meclis-i Mebusa