Początki kapeli Arch Enemy sięgają roku 1995. Wtedy właśnie Michael Amott opuścił swój dotychczasowy zespół Carcass i wraz ze swoim bratem Christopherem założył Arch Enemy. Do składu dołączył perkusista Daniel Erlandsson i wokalista Johan 'Liiva' Axelsson.

Debiutancki album kapeli pt. Black Earth ukazał się w 1996 roku nakładem wytwórni muzycznej Wrong Again Records. Muzyka zawarta na tym krążku okrślona została jako melodyjny death metal. Dużo pracy i wysiłku w ten album włożył przede wszystkim Michael, który napisał wszystkie utwory na albumie oraz zgrał partie gitary basowej. W 1997 roku z zespołu odszedł perkusista Daniel Erlandsson, zastąpił go Peter Wildoer. Do zespołu dołączył również basista Martin Bengtsson.

18 maja 1998 roku ukazał się drugi album grupy o tytule Stigmata. Od tej płyty zespół związał się z wytwórnią Century Media. Warto także zaznaczyć, że album Stigmata był pierwszym albumem Arch Enemy wydanym na całym świecie.
Już rok później ukazał się trzeci studyjny album - Burning Bridges. Wraz z tym albumem skład zespołu przeszedł kolejne zmiany. Za bębny powrócił Daniel Erlandsson, a nowym basistą został Sharlee D'Angelo. Album Burning Bridges był promowany teledyskiem do utworu pt. The Immortal w reżyserii Dicka Bewarpa. Podczas koncertów D'Angelo był dwukrotnie zastępowany przez Dicka Lövgrena, a następnie Rogera Nilssona.
Wkrótce potem ukazuje się pierwszy album koncertowy Arch Enemy o tytule Burning Japan Live 1999, na którym znalazło się 11 utworów. Początkowo krążek ten został wydany tylko na rynek japoński (przez Toy's Factory) i był limitowany w 10000 sztukach. Później jednak dystrybucja została poszerzona na cały świat.

Pod koniec roku 2000 z zespołu odszedł wokalista - Johan 'Liiva' Axelsson. Johan nie radził sobie na koncertach, zespół potrzebował bardziej dynamicznego i charyzmatycznego frontmana. Kapela zaczęła więc poszukiwania nowego wokalisty. Jeszcze w roku 2000 poszukiwania zostały zakończone. Nowym wokalistą, a raczej wokalistką została młoda niemka Angela Gossow, która świetnie wpasowała się w skład Arch Enemy dzięki swoimi niebywałymi umiejętnościami wokalnymi. Growl Angeli znacznie ożywił brzmienie kapeli.

Już w kwietniu 2001 roku światło dzienne ujrzał pierwszy album z udziałem nowej wokalistki pt. Wages of Sin, zrealizowany w studiu Fredman. W grudniu tego samego roku zespół wziął udział w trasie koncertowej Japan's Beast Feast 2002 obok takich gwiazd jak Slayer czy Motörhead.

W 2002 roku ukazał się pierwszy minialbum Arch Enemy o tytule Burning Angel. W sierpniu 2003 roku ukazał się piąty album grupy - Anthems of Rebellion powstały we współpracy z producentem Adny Sneapem. Wydawnictwo ukazało się również w limitowanej wersji dwupłytwoerj zawierającej nagrania zarejestrowane podczas koncertów.

W listopadzie 2004 roku ukazał się drugi minialbum (EP) o nazwie Dead Eyes See No Future. Oprócz świetnego kawałka tytułowego na minialbumie znalazły się 3 utwory zarejestrowane w Paryżu, 3 covery takich kapel jak Manowar, Megadeth oraz Carcass oraz teledysk.

22 sierpnia 2005 roku ukazał sie szósty album grupy - Doomsday Machine. Wydawnictwo zostało nagrane w studiu Slaughterhause we współpracy z producentem muzycznym Rickardem Bengtssonem, natomiast miksowanie nagrań odbyło się w miejscowości Derbyshire, we współpracy z Andy Sneapem. Album był promowany teledyskami do utworów Nemesis w reżyserii Georgea Bravoa i My Apocalypse w reżyserii Rogera Johanssona. Po zarejestrowaniu tej płyty zespół opuścił gitarzysta Christopher Amott. Podczas trasy promującej ten krążek gościnnie na gitarze grał Gus G. (Kostas Karamitroudis) znany z Firewind. Po zakończeniu trasy koncertowej do zespołu dołączył Fredrik Ĺkesson.
W sierpniu 2006 roku ukazało się pierwsze wydawnictwo DVD pt. Live Apocalypse, które zawierało m.in. zarejestrowany w grudniu 2004 roku koncert w londyńskim The Forum, teledyski kapeli oraz wywiady z muzykami.

W marcu 2007 roku do zespołu powrócił Christopher Amott, również w tym roku zespół wydał trzecie EP o tytule Revolution Begins. Natomiast 24 września tego samego roku ukazał się siódmy album grupy pt. Rise of the Tyrant. Album został nagrany w studiu nagraniowym Fredman i wyprodukowany przez Fredrika Nordströma. Album był promowany teledyskami do utworów I Will Live Again i Revolution Begins w reżyserii Patrica Ullaeusa. Grupa odbyła również trasę koncertową w Stanach zjednoczonych wraz z Machine Head, Throwdown i Sanctity.

W listopadzie ukazał się drugi album koncertowy - Tyrants of the Rising Sun. Krążek zawiera zapis koncertu zarejestrowanego w 2008 roku w Tokio. Koncert został wyreżyserowany przez Paula Smitha, miksowanie wykonał producent muzyczny Andy Sneap,a okładkę przygotował Niklas Sundin z Cabin Fever Media, gitarzysta szwedzkiej grupy Dark Tranguillity.

W 2009 roku ukazał się kolejny album Arch Enemy o tytule The Root of All Evil. Krążek zawiera wybrane utwory z pierwszych trzech płyt zespołu, na których śpiewał jeszcze stary wokalista - Johan "Liiva" Axelsson.

Na rok 2010 zapowiedziano kolejny stydyjny krążek Arch Enemy. Również w 2010 roku kapela wystąpi po raz pierwszy w Polsce (16.05.2010).