1952年4月4日、北アイルランドのベルファスト出身。10歳の頃にギターを弾き始め、ジョン・メイオール、ジミ・ヘンドリックス、エリック・クラプトン、ピーター・グリーンなどに夢中になる。

‘68年、当時フィル・ライノットがヴォーカルを務めていたスキッド・ロウに16歳で加入、フィル・ライノット脱退後の’70年にアルバム『スキッド』を、翌年2ndアルバム『34時間』をリリースしプロとしてのキャリアがスタートする。その後バンドを脱退、自身のバンドであるザ・ゲイリー・ムーア・バンドを結成し『グラインディング・ストーン』を発表する。フィル・ライノットに誘われ一時的にシン・リジィに参加した後、ジャズ・ロック・バンドのコロシアムⅡを結成し3枚のアルバムをリリース。’77年に再びシン・リジィのツアーに参加、翌年正式加入する。シン・リジィと並行してソロ活動を開始したゲイリーは’78年に初のソロ名義アルバム『バック・オン・ザ・ストリーツ』を発表。フィル・ライノットをヴォーカルに迎えたシングル「パリの散歩道（Parisienne Walkways）」が全英シングル・チャートで8位を記録するヒット曲に。シン・リジィの傑作9thアルバム『ブラック・ローズ』のツアー中にバンドを脱退し新たにG-FORCEを立ち上げるも、アルバム1枚を残して解散する。

‘82年にヴァージン・レコードに移籍しソロ第2弾となる『大いなる野望（Corridors Of Power）』を発表。日本でも大ヒットを記録し、翌年初来日公演を果たす。’85年のアルバム『ラン・フォー・カヴァー』からは再びフィル・ライノットを迎えゲイリーとのツイン・ヴォ－カルをとったシングル「アウト・イン・ザ・フィールズ」が全英シングル・チャートで5位の大ヒットを記録。’87年、故郷アイルランドをテーマにし、故フィル・ライノット（’86年没）へ捧げた『ワイルド・フロンティア』を、’89年 にオジー・オズボーンがゲスト参加（「レッド・クローンズ」のリード・ヴォーカル）したことでも話題となった『アフター・ザ・ウォー』を発表。

‘90年、それまでのハード・ロック路線から一転、自身の音楽的ルーツへと回帰した『スティル・ゴット・ザ・ブルース』を発表。アルバムは全世界で300万枚を超える大ヒットとなり、全米でも初のゴールド・ディスクを獲得、タイトル・トラックは「パリの散歩道」と並ぶ代表曲となる。’92年には憧れのアルバート・コリンズ、B.B.キングがゲスト参加した『アフター・アワーズ』を発表。’94年、元クリームのジャック・ブルース、ジンジャー・ベイカーと組んだ衝撃のスーパー・トリオ、BBMを結成しアルバム『アラウンド・ザ・ネクスト・ドリーム～白昼夢』を発表。ピーター・グリーンに捧げた『ブルース・フォー・グリーニー』を’95年に発表した後、モダン・ミュージックへのアプローチを試み、’97年にドラムンベースを取り入れた『ダーク・デイズ・イン・パラダイス』を、’99年にビッグ・ビートを取り入れた『ディファレント・ビート』を発表するもそれらは商業的な成功には至らなかった。

2001年の『バック・トゥ・ザ・ブルース』ではタイトル通り再びゲイリーらしいブルース・ロック・サウンドに回帰。‘02年、ベースに元スカンク・アナンシーのキャス・ルイス、ドラムスにプライマル・スクリームのダリン・ムーニーと組んだトリオ編成のスカーズ名義でジミ・ヘンドリックスを彷彿とさせるラウドなブルース／ファンク・サウンドのアルバムを発表。’07年、尊敬するブルース・アーティストのカヴァーを含むブルース・ロック・アルバム『クローズ・アズ・ユー・ゲット』を、‘08年に生前最後のアルバム『バッド・フォー・ユー・ベイビー』を発表する。’10年4月に実に21年ぶりの来日公演が実現（4月22日東京、23日名古屋、26日大阪、27、28日東京）、これが最後のジャパン・ツアーとなる。

2011年2月6日、休暇で訪れていたスペインのエステポナにて心臓発作で急逝。享年58。