Java
programming
народ я малость того: в программе осуществляется много раз преобразование цвета из пространства YUV в RGB и обратно, так вот, сделал математику для этого, сделал её целочисленной (домножая на 2^n и потом делая смещение вправо на n бит). математика работает. Решили попробовать оптимиздинг: число цветов 2^24, вполне можем выделить памяти на два массива по 64 метров, предварительно рассчитать, заполнить таблички, и потом по индексу, которым будет сам цвет, брать нужные значения. Внимание вопрос: в каком месте я туплю, но почему из массива данные берутся МЕДЛЕННЕЕ чем расчет по формуле. Причем значительно так: алгоритм работает с математикой на 15 секунд быстрее (40 и 55 секунд соответственно).
массивы: byte[] rgb2yuv_table = new byte[size]; // size = 2^24*3