A série começou em março de 2004 com 2 pequenas reviews de jogos da NES. Em 2006 os vídeos foram colocados no YouTube sob o nome "Angry Nintendo Nerd", mas Rolfe transformou-se no "Angry Video Game Nerd" quando consoles como a Atari 2600, a Sega Master System e a Sony PlayStation foram também contempladas em seus reviews. Além de jogos outros objectos relacionados com o mundo dos vídeojogos foram alvo de reviews: a revista Nintendo Power, a Power Glove ou o Virtual Boy.
Rolfe disse já que o sucesso da série foi completamente inesperado e que os primeiros vídeos foram gravados como uma piada entre amigos até um deles o convidar a levar as suas reviews para o YouTube. Hoje em dia é uma franchise de sucesso com direito a fãs leais, camisetas e até compilação dos episódios em DVD.
Depois do quarto vídeo/review, a série passou para o site ScrewAttack, propriedade do GameTrailers, onde podem ser vistos em exclusivo. A antiga conta no YouTube serve para outras séries menores, mensagens a título pessoal e para Rolfe colocar trailers dos novos vídeos do Angry Video Game Nerd.
Rolfe também fez alguns episódios com Doug Walker, criador do Nostalgia Critic, que faz resenhas de animações e filmes no mesmo estímulo satírico do Nerd. A maioria dos vídeos simula uma rivalidade entre o Nerd e o Critic.