98年、キンモクセイの前身となるバンドで活動を始め、99年、キンモクセイと名乗り始め、ライブ活動を積極的にこなして行く。 伊藤の音楽のベースになるのはビートルズ等の洋楽の影響もさることながら、70年代～80年代の日本のフォーク、ロック、歌謡曲もこよなく愛する。
井上陽水、吉田拓郎、はっぴいえんど、山下達郎などをリスペクトしている。
2001年にキンモクセイとしてメジャーデビューして、2002年リリースの2ndシングル「二人のアカボシ」でブレイク!しかもその年のNHK「紅白歌合戦」への出場を果たす、これまでにキンモクセイとして、計15枚のシングルと計5枚のアルバムを発表、ワンマンライブツアーはトータルで7本のツアーをこなして来た。
伊藤俊吾のひととなりとしては、音楽以外には、大の車好きで、家の中に居るよりも車の中にいる方がリラックスするという、車の雑誌、車の番組などにも出演した事がある程。人間的には非常にマジメでバンドのフロントマンとは思えない程、控えめな性格、ただステージに上がれば別人のごとく強い意思を感じとれる歌とパフォーマンスを世間に見せつける天性の実力を発揮する。
2006年頃からソロでの活動を意識し始め、2008年キンモクセイは活動休止を発表!新たなプランとキンモクセイのメインソングライターとしてのプライドを持ちつつ、新生「伊藤俊吾」の世界は今もめまぐるしく彼の中をかけめぐっている。