Потому что его сносит в сторону аэродинамическая сила
Форма бумеранга и способ его броска (скорость, закрутка) таковы, что в полете на него действует аэродинамическая сила, которая направлена перпендикулярно его траектории. Из-за этого бумеранг летит не прямо, а, подобно крученому мячу, забирает в сторону и возвращается примерно по круговой траектории. Если, конечно, по пути не попадает в цель. Но есть и такие бумеранги, которые летят прямо, а аэродинамику используют для увеличения дальности полета.