про микс растра и вектора: если сделать подобное и попытаться своротить CDR или EPS то получается как правило просто огроменнейший файл и еще не всегда возможно завершить его создание.
про TIF и JPG: формат тиф позволяет использовать кучу вариантов компресии по эфектифности которые превосходят компрессию джипега - LZW по сжатию сопоставима с джипег компрессией однако ни коим образом не сказывается на качестве изображения, ZIP компресия по определению не может ухудшать качество изображения и файл получается компактней джипега...
PS. итоговый размер файла очень сильно зависит от содержания изображения - можете поэкспериментировать: создать один файл с монохромным квадратом на монохромном фоне и другой - фотографию леса (любой природный ладшафт) все с одним итем же размером и разрешением и примените к ним LZW копрессию - сильно удивитесь и откроете для себя массу интересного.....
Можно просто в монохромный квадрат добать чуть-чуть шума, процента 2-3 