Erzurum Kongresi'nin toplanması bölge üzerindeki Ermeni ve Rum emellerine karşı Erzurum ve Trabzon illerinin işbirliğiyle kararlaştırılmıştı. Bilindiği gibi Osmanlı Devleti ile Rusya arasında imzalanan Brest-Litovsk Antlaşmasıyla Doğu bölgelerinin toprak bütünlüğü sağlanmış, ancak İtilaf Devletlerinin bu antlaşmayı tanımamalarından cesaret alan Ermeniler Doğu illerine saldırmaya başlamışlardı. Ayrıca Batılı devletlerin desteklediği bölgede bir Ermeni devleti kurma fikri ezici çoğunluğu oluşturan Türk halkı tarafından endişe ile karşılanmıştı. Diğer taraftan Karadeniz kıyıları da Rum ve Ermeni tehlikesi ile karşı karşıya bulunuyordu. Bu nedenle Trabzon Muhafaza-i Hukuk-ı Milliye Cemiyeti İzmir'in işgali üzerine topladığı ikinci kongresinde hem silahlı mücadele kararı almış, hem de Doğu Anadolu'yu temsil edecek daha geniş bir kongre toplamayı kararlaştırarak bu konuda Erzurum'u da teşvik etmeye başlamıştı. Sonuçta 30 Mayıs 1919'da Trabzon Muhafaza-ı Hukuk-ı Milliye Cemiyeti'nin kongre heyetiyle Vilayat-ı Şarkiyye Müdafaa-i Hukuk-ı Milliye Cemiyeti'nin Erzurum şubesi, Doğu illerinin birliğinin sağlanması amacıyla bir kongrenin toplanması konusunda birbirlerine karşılıklı telgraflar çekmişlerdi. İşte her iki cemiyetin birbirlerinden habersiz, güzel bir rastlantıyla aynı günde ve aynı amaçla çektikleri bu telgraflar Erzurum Kongresi'ni hazırlamış ve böylece millî birlik ve beraberliğin sağlanmasından önemli bir adım teşkil etmişti.
10 Temmuzda toplanması kararlaştırılan kongre bazı temsilcilerin gecikmeleri nedeniyle aynı zamanda meşrutiyet bayramına rastlayan 23 Temmuz günü şenliklerle açılmıştı. Erzurum Kongresi'ne Erzurum, Trabzon, Sivas, Bitlis ve Van illerini temsil eden 56 kadar temsilci katıldı. Elazığ ve Diyarbakır Valileri temsilcilerini kongreye göndermediler. Mustafa Kemal Paşa ve Rauf Bey kongreye Erzurum merkez temsilcileri olan Kâzım ve Cevat (Dursunoğlu) beylerin yerlerine katılmışlardı.
Kongrenin ilk günü başkanlığa seçilen Mustafa Kemal Paşa, mevcut durum ve takip edilen yol hakkında aydınlatıcı bir konuşma yaptı. Konuşmasında tarihin ve olayların zoruyla içine düştüğümüz kanlı ve kara tehlikeleri görmeyecek ve bundan ürpermeyecek hiç bir vatanseverin düşünülemeyeceğine işaret etti. Ateşkes hükümlerine aykırı olarak yapılan tecavüz ve işgallerden söz etti. Tarihin bir milletin varlığını ve hakkını hiç bir zaman inkâr edemeyeceğini, bu bakımdan vatanımız ve milletimiz aleyhinde verilen hükümlerin iflasa mahküm olduğu söyledi. Vatanın ve milletin mukadderatını kurtarmak ve korumak hususunda son sözü söyleyecek ve bunun gereğini uygulatacak kuvvetin bütün vatanda bir elektrik şebekesi haline girmiş olan millî cereyanın kahramanlık ruhu olduğunu ifade etti.
Milletin mukadderatına egemen bir iradenin ancak Anadolu'dan doğabileceğini belirtti. Millî iradeye dayanan bir millet meclisinin kurulmasını ve kuvetini millî iradeden alacak bir hükümetin oluşturulmasını kongre çalışmalarının ilk hedefi olarak gösterdi.
On dört gün devam eden kongre çalışmalarının sonunda bir tüzük teşkil edilerek tüzük hükümleri bir bildiri ile ilan edildi. Bildiri, ülkenin her tarafına ve İstanbul'daki işgal kuvvetleri temsilcilerine gönderildi. Bildiri ile ilan edilen prensip ve kararlar özetle şöyleydi:
1. Millî sınırlar içinde vatan bir bütündür. Birbirinden ayrılamaz
2. Her türlü yabancı işgal ve müdahalesine karşı Osmanlı Hükümeti'nin dağılması halinde millet, birlikte savunacak ve direcektir.
3. Vatanın bağımsızlığını, İstanbul Hükümeti sağlayamazsa bunun için geçici bir hükümet kurulacaktır. Bu hükümet millî kongrece seçilecek, kongre toplanamamışsa bu seçimi temsil heyeti yapacaktır.
4. Millî gücü etken, millî iradeyi egemen kılmak esastır.
5. Hristiyan azınlıklara siyasî egemenliğimizi ve sosyal dengemizi bozacak ayrıcalıklar verilemez.
6. Manda ve himaye kabul edilemez.
7. Millî Meclis'in derhal toplanmasına ve hükümet işlerinin meclisin denetimine alınmasına çalışılacaktır.
Erzurum Kongresi'nde ayrıca içlerinde Mustafa Kemal Paşa ve Rauf Bey'in de yer aldığı 9 kişilik bir Temsil Heyeti oluşturulmuş, başkanlığına Mustafa Kemal seçilmişti. Yine millî vicdandan doğan cemiyetler Şarkî (Doğu) Anadolu Müdafaa-i Hukuk Cemiyeti adıyla birleştirilmişti.