Karagümrük Ortaokulu 1938-1939 öğretim yılında iki sınıflı olarak Çarşamba semtinde eski bir binada öğretime başlamış olup içerisinde bulunduğumuz binanın inşaatının 1939-1940 öğretim yılı başında bitmesiyle bu binaya taşınmıştır. Okulumuzda 1939-1940 öğretim yılından 1943-1944 öğretim yılı sonuna kadar çift öğretim 1944-1945 öğretim yılından 1950-1951 öğretim yılına kadar da normal öğretim yapılmıştır.

Eski bir konakta öğretim yapan Fatih Kız Ortaokulu’nun binasının öğretim yapılamaz bir duruma gelmesi üzerine 1951-1952 öğretim yılından 1959-1960 öğretim yılına kadar Fatih Kız Ortaokulu ile çift öğretim yapılmış Fatih Kız Lisesinin binasının tamamlanmasıyla fatih kız ortaokulu fatih kız lisesine nakledilmiştir. Bundan sonra yine çift öğretim yapmaya başlayan okulumuz adı 1965-1966 öğretim yılından itibaren Ahmet Rasim Ortaokulu olarak değiştirilmiştir.

1988-1989 öğretim yılından itibaren lise olması nedeniyle Ahmet Rasim Lisesi adını almıştır.1989 öğretim yılında başlanan lise ek binası inşaatı 1991- 1992 öğretim yılına yetiştirilmiştir. 1995-1996 öğretim yılında ilköğretim kısmı tamamen kalkmıştır. 1997-1998 öğretim yılında tekli eğitime geçmiştir. 2000- 2001 öğretim yılında 8 yıllık zorunlu eğitim dolayısıyla Nişancı Mehmet Paşa İlköğretim okuluyla bina ortak kullanılmaya başlanmıştır.

2013-2014 Eğitim öğretim yılından itibaren okulumuzun ismi Ahmet Rasim Anadolu Lisesi olarak değişmiştir.