สโมสรฟุตบอลอาร์เซนอลเริ่มต้นขึ้น เมื่อกลุ่มคนงานของโรงงานผลิตอาวุธรอยัลอาร์เซนอลในแขวงวูลิช กรุงลอนดอน ก่อตั้งทีมฟุตบอลของตนเองขึ้นมาเมื่อปลายปี ค.ศ. 1886 ในชื่อ ไดอัล สแควร์ การแข่งขันแรกของทีมคือเกมที่สามารถเก็บชัยชนะเหนือทีมอีสเทิร์น วันเดอเรอร์ส 6-0 เมื่อวันที่ 11 ธันวาคม ค.ศ. 1886 หลังจากนั้นไม่นานก็เปลี่ยนชื่อเป็น รอยัลอาร์เซนอล และยังคงแข่งขันในเกมอุ่นเครื่องและรายการท้องถิ่นต่อไป จากนั้นได้ก้าวขึ้นมาเป็นสโมสรฟุตบอลอาชีพแล้วหันมาใช้ชื่อ วูลิชอาร์เซนอลในปี 1891 สโมสรแห่งนี้ได้เข้าร่วมการแข่งขันฟุตบอลลีกเป็นครั้งแรกในปี 1893 ในดิวิชั่น 2 จากนั้นในปี 1904 ก็ได้ก้าวขึ้นมาอยู่ดิวิชั่น 1 เป็นครั้งแรก อย่างไรก็ตาม ในทางภูมิศาสตร์นั้นจะเห็นว่าสโมสรแห่งนี้ตั้งอยู่โดดเดี่ยวเกินไป ส่งผลกระทบให้จำนวนผู้ชมมีน้อยกว่าสโมสรอื่นจนกระทั่งทีมต้องประสบกับปัญหาทางการเงินอย่างหนักจนนำไปสู่การยุบทีมในปี 1910 เมื่อเฮนรี นอร์ริสได้เข้ามาเทคโอเวอร์[1] นอร์ริสพยายามมองหาแนวทางที่จะย้ายที่ตั้งของสโมสรไปอยู่ที่อื่นจนกระทั่งในปี 1913 หลังจากที่ตกชั้นดิวิชั่น 1 มาอยู่ดิวิชั่น 2 เหมือนเดิมนั้น อาร์เซนอลก็ได้ย้ายไปอยู่ที่อาร์เซนอลสเตเดียมในย่านไฮบิวรี่ บริเวณลอนดอนเหนือ ในปีต่อมา สโมสรได้ตัดสินใจตัดคำว่า "วูลิช" ออกจากชื่อสโมสรจนเหลือเพียง อาร์เซนอล เท่าที่เห็นในปัจจุบัน[2] หลังจากสิ้นสุดสงครามโลกครั้งที่ 1 ลีกดิวิชั่น 1 ก็เพิ่มจำนวนทีมเป็น 22 ทีม อาร์เซนอลได้อันดับ 5 ของดิวิชั่น 2 ในปี 1919 แต่ถึงกระนั้นก็ได้รับเลือกให้กลับขึ้นสู่ดิวิชั่น 1 อีกครั้งหนึ่ง[3] และอาร์เซนอลก็ไม่เคยถูกลดชั้นหรือตกชั้นเลยนับตั้งแต่นั้นมา

ปาทริก วิเอรา กัปตันทีมอาร์เซนอลชูถ้วยแชมป์พรีเมียร์ลีก ฤดูกาล 2003-04 นักเตะอาร์เซนอลและแฟนบอลร่วมกันฉลองแชมป์ลีกเมื่อปี ค.ศ. 2004 บนขบวนรถบัสในปี 1925 อาร์เซนอลได้ว่าจ้างให้เฮอร์เบิร์ต แชปแมนเป็นผู้จัดการทีม แชปแมนเคยพาสโมสรฟุตบอลฮัดเดอร์สฟิลด์ทาว์นคว้าแชมป์ลีกมาแล้ว 2 สมัยคือฤดูกาล 1923-24 และ 1924-25 ก่อนที่จะเข้ามารับตำแหน่งผู้จัดการทีมอาร์เซนอลนี้ และแชปแมนคือคนแรกที่พาอาร์เซนอลก้าวเข้าสู่ยุคแห่งความสำเร็จยุคแรก เขาจัดการเปลี่ยนระบบการซ้อมและแทคติคใหม่ทั้งหมดพร้อมทั้งซื้อนักเตะระดับแนวหน้ามาร่วมทีมไม่ว่าจะเป็นอเล็กซ์ เจมส์และคลิฟฟ์ บานติน ทำให้อาร์เซนอลก้าวสู่ความยิ่งใหญ่ในวงการฟุตบอลอังกฤษได้ในช่วงทศวรรษที่ 1930 อาร์เซนอลคว้าแชมป์รายการใหญ่ๆได้เป็นครั้งแรกภายใต้การคุมทีมของแชปแมน โดยสามารถคว้าแชมป์เอฟเอคัพได้ฤดูกาล 1929-30 และแชมป์ลีก 2 สมัยคือฤดูกาล 1930-31 และ 1932-33 นอกจากนั้น แชปแมนยังเป็นผู้อยู่เบื้องหลังการเปลี่ยนชื่อสถานีรถไฟใต้ตินที่อยู่ในย่านนั้นคือ Gillespie Road เป็นสถานีรถไฟใต้ดิน "อาร์เซนอล" อันเป็นสถานีรถไฟใต้ดินเพียงแห่งเดียวที่ตั้งชื่อตามสโมสรฟุตบอลโดยเฉพาะ[4]

น่าเสียดายที่แชปแมนเสียชีวิตอย่างกะทันหันด้วยโรคปอดบวมเมื่อต้นปี 1934 แต่หลังจากนั้น โจ ชอว์ และ จอร์จ อัลลิสัน ที่เข้ามารับตำแหน่งก็ประสบความสำเร็จไม่แพ้กัน พวกเขาพาอาร์เซนอลคว้าแชมป์ลีกสูงสุดได้อีก 3 สมัย (ฤดูกาล 1933-34, 1934-35 และ 1937-38) และเอฟเอคัพ 1 สมัย (1935-36) อย่างไรก็ตาม อาร์เซนอลก็เริ่มถดถอยลงเรื่อยๆในช่วงปลายทศวรรษเนื่องจากสงครามโลกครั้งที่ 2 การแข่งขันฟุตบอลอาชีพทุกรายการในอังกฤษต้องยุติลง

หลังจากสงครามสิ้นสุดลง ทอม วิทเทคเกอร์ ผู้สืบทอดตำแหน่งของอัลลิสันได้เข้ามาบริหารทีม อาร์เซนอลจึงกลับมาประสบความสำเร็จได้อีก 2 ครั้งคือฤดูกาล 1947-48 และ 1952-53 ที่ได้แชมป์ลีก และ 1949-50 ที่ได้แชมป์เอฟเอคัพ อย่างไรก็ตาม หลังจากนั้น โชคก็เหมือนจะไม่เข้าข้างอาร์เซนอลเท่าไรนัก สโมสรไม่สามารถดึงดูดความสนใจของนักเตะชุดเดียวกับที่เคยอยู่ในทีมช่วงทศวรรษ 1930 ให้กลับเข้าสู่ทีมได้ ในช่วงทศวรรษที่ 1950 และ 1960 นั้น อาร์เซนอลกลายเป็นทีมระดับธรรมดาๆที่ไม่สามารถคว้าแชมป์อะไรได้เลย แม้ แต่บิลลี ไรท์ อดีตกัปตันทีมชาติอังกฤษที่ผันตัวเองมาเป็นผู้จัดการทีมนั้นก็ไม่สามารถนำความสำเร็จมาสู่สโมสรได้เลยในช่วงปี 1962-1966 ที่เข้ามาคุมทีม

อาร์เซนอลเริ่มกลับมาคว้าแชมป์ได้อีกครั้งหนึ่งหลังจากได้ว่าจ้างให้เบอร์ตี้ มี นักกายภาพบำบัดให้มารับตำแหน่งผู้จัดการทีมในปี 1966 แบบไม่มีใครคาดคิด อาร์เซนอลสามารถเข้าสู่รอบชิงชนะเลิศลีกคัพได้ 2 สมัยแต่ก็พลาดแชมป์ทั้งสองครั้ง แต่ก็ยังสามารถคว้าแชมป์อินเตอร์ซิตี้แฟร์สคัพ ฤดูกาล 1969-70 ซึ่งเป็นถ้วยยุโรปใบแรกในประวัติศาสตร์สโมสร ตามมาด้วยการคว้าดับเบิ้ลแชมป์เป็นครั้งแรก นั่นคือแชมป์ลีกและเอฟเอคัพในฤดูกาล 1970-71 แต่ในทศวรรษต่อมานั้น อาร์เซนอลทำได้แค่เพียงการเข้าไปใกล้ตำแหน่งแชมป์มากที่สุดแต่ก็แทบจะไม่สามารถคว้าแชมป์ได้เลย โดยได้รองแชมป์ลีกในฤดูกาล 1972-73 รองแชมป์เอฟเอคัพในฤดูกาล 1971-72, 1977-78 และ 1979–80 และยังพ่ายแพ้ในเกมยูฟ่าคัพวินเนอร์สคัพรอบชิงชนะเลิศด้วยการดวลจุดโทษอีกด้วย สโมสรประสบความสำเร็จเพียงครั้งเดียวในช่วงนี้ก็คือการคว้าแชมป์เอฟเอคัพในฤดูกาล 1978-79 ได้ด้วยการเอาชนะแมนเชสเตอร์ยูไนเต็ดไปได้ 3-2 ในนาทีสุดท้ายของการแข่งขัน ซึ่งได้รับการกล่าวขวัญกันมากในเรื่องของความคลาสสิคของเกมนี้[5]

การกลับเข้ามาสู่วงการฟุตบอลอีกครั้งของ จอร์จ แกรแฮม อดีตนักเตะในฐานะผู้จัดการทีมของอาร์เซนอลในปี 1986 ทำให้สโมสรสามารถคว้าแชมป์ได้ 3 สมัย อาร์เซนอลคว้าแชมป์ลีกคัพได้ในฤดูกาล 1986-87 ซึ่งเป็นฤดูกาลแรกที่แกรแฮมเข้ามาคุมทีม จากนั้นก็มาได้แชมป์ลีกในฤดูกาล 1988-89 ด้วยการคว้าแชมป์จากประตูในนาทีสุดท้าของเกมที่พบกับลิเวอร์พูล จากนั้น อาร์เซนอลภายใต้การคุมทีมของแกรแฮมนั้นก็ได้แชมป์ลีกอีกในปี 1990-91 โดยแพ้ไปเพียงเกมเดียวเท่านั้น และสามารถคว้าแชมป์ดับเบิลแชมป์เอฟเอคัพพร้อมกับลีกคัพได้ในฤดูกาล 1992-93 และถ้วยยุโรปใบที่ 2 คือยูฟ่าคัพวินเนอร์สคัพในฤดูกาล 1993-94 ได้ อย่างไรก็ตาม ชื่อเสียงของแกรแฮมก็กลายเป็นความเสื่อมเสียเมื่อมีการเปิดเผยว่าเขาได้รับเงินสินบนจาก Rune Hauge เอเยนต์ของนักเตะในการซื้อตัว[6] จากนั้น แกรแฮมก็โดนไล่ออกในปี 1995 และ บรูซ ริออช ก็เข้ามารับตำแหน่งแทน ซึ่งได้คุมทีมอยู่เพียงฤดูกาลเดียวก่อนที่จะลาออกไปเนื่องจากขัดแย้งกับบอร์ดบริหาร[7]

ความสำเร็จที่ยิ่งใหญ่ที่สุดของสโมสรอยู่ในช่วงปลายทศวรรษที่ 1990 และช่วงทศวรรษที่ 2000 เนื่องจาก อาร์แซน เวนเกอร์ เข้ามาดำรงตำแหน่งผู้จัดการทีมในปี 1996 เวนเกอร์นำแทคติคใหม่ๆมาใช้ นำวิธีการซ้อมใหม่ๆเข้ามาและนำนักเตะต่างชาติที่สามารถปรับตัวเข้ากับฟุตบอลอังกฤษได้มาเสริมทีมจำนวนมาก อาร์เซนอลจึงสามารถคว้าดับเบิลแชมป์ได้อีกครั้งในฤดูกาล 1997-98 ซึ่งเป็นแชมป์ลีกและแชมป์บอลถ้วย และได้ดับเบิลแชมป์ที่ 3 ในฤดูกาล 2001-02 นอกจากนั้น สโมสรยังสามารถเข้าสู่รอบชิงชนะเลิศฟุตบอลยูฟ่าคัพได้ในฤดูกาล 1999-00 (แพ้จุดโทษให้กับกาลาตาซาราย แต่มาได้แชมป์เอฟเอคัพ ในฤดูกาล 2002-03 และ 2004-05 แชมป์พรีเมียร์ลีกอีกครั้งในปี 2003-04 ซึ่งเป็นแชมป์พรีเมียร์ลีกโดยที่ไม่แพ้ทีมใดเลยจนได้รับฉายาว่า "อาร์เซนอลผู้ไร้เทียมทาน" (The Invincibles) [8] และสามารถทำสถิติไม่แพ้ติดต่อกัน 49 นัดได้ในฤดูกาลต่อมา ซึ่งนับว่าเป็นสถิติสูงสุดของประเทศอีกด้วย

อาร์เซนอลจบฤดูกาลด้วยอันดับ 1 หรืออันดับ 2 รวมทั้งสิ้น 8 ฤดูกาลจาก 11 ฤดูกาลที่อาร์แซน เวนเกอร์ก้าวเข้ามาคุมทีมๆนี้[9] อาร์เซนอลเป็นหนึ่งในสี่สโมสรเท่านั้นที่สามารถคว้าแชมป์พรีเมียร์ลีกได้ตั้งแต่ก่อตั้งลีกสูงสุดนี้ขึ้นในปี 1993 (นอกจากอาร์เซนอลก็มีแมนเชสเตอร์ยูไนเต็ด, แบล็คเบิร์น โรเวอร์ส และเชลซี) แม้ว่าจะไม่สามารถป้องกันแชมป์ได้แม้แต่สมัยเดียวก็ตาม[10] เมื่อไม่นานมานี้ อาร์เซนอลยังไม่เคยตกรอบที่ต่ำกว่ารองก่อนรองชนะเลิศในรายการยูฟ่าแชมเปียนส์ลีกเลย โดยในฤดูกาล 2005-06 สามารถเข้าสู่รอบชิงชนะเลิศได้ ซึ่งเป็นทีมแรกจากกรุงลอนดอนที่สามารถเข้าสู่รอบชิงชนะเลิศถ้วยยุโรปได้ในรอบ 15 ปี แต่กลับแพ้ให้กับบาร์เซโลนา 2-1 อย่างน่าเสียดาย จากนั้นในเดือนกรกฎาคม ค.ศ. 2006 อาร์เซนอลก็ได้ยุติประวัติศาสตร์ 93 ปีที่ไฮบิวรีลง โดยการย้ายสนามเหย้ามาอยู่ที่สนามเอมิเรตส์สเตเดียมอันเป็นที่ตั้งของสโมสรในปัจจุบันนี้

เมื่อสิ้นสุดศตวรรษที่ 20 ในปลายปี ค.ศ. 1999 อาร์เซนอลได้รับการจัดลำดับจากสำนักข่าวบีบีซีให้เป็นทีมฟุตบอลที่ดีที่สุดของอังกฤษในรอบ 100 ปี โดยพิจารณาจากสถิติ และปัจจัยต่าง ๆ โดยมี เอฟเวอร์ตัน และ ลิเวอร์พูล เป็นอันดับสอง และสาม ตามลำดับ