Ивица Олич родился и вырос в небольшой хорватской деревне Давор, расположенной рядом с городом Славонски-Брод. Начал играть в футбол в местном клубе «Марсония» в 1996 году и провёл там два сезона.

В 1998 году заключил контракт с берлинской «Гертой». Однако поскольку не имел игровой практики в «Герте», Олич через год вернулся обратно в «Марсонию». В «Марсонии» провёл очень удачный сезон, забив в 29 играх 17 мячей.

В 2001 году Олич перебрался в ФК «Загреб», где в 28 матчах забил 21 гол, чем помог своей команде завоевать золотые медали чемпионата Хорватии. В следующем сезоне Олич продолжил свою карьеру в загребском «Динамо», где он забил 16 мячей в 21 матче и стал лучшим бомбардиром хорватского чемпионата.

В 2003 году Олич заключил четырёхлетний контракт с московским ЦСКА. За четыре года в клубе Ивица в общей сложности провёл 116 матчей в которых забил 44 гола. В составе ЦСКА Олич трижды выигрывал чемпионат России, дважды Ивица становился обладателем Кубка России и Суперкубка, а в 2005 году вместе с ЦСКА выиграл Кубок УЕФА.

В январе 2007 года Олич перешёл в «Гамбург». Летом 2009 года Олич перешёл в «Баварию» и будет играть в клубе до 2012