Seleccionar los formatos y códec a utilizar (siempre que se trabaje en imágenes digitales) en el flujo de trabajo, en la fase de preproducción, es fundamental para evitar pérdidas de calidad. Un formato de vídeo tiene varios componentes, básicamente: el contenedor y la codificación. Los aspectos del formato que influirán en el trabajo de composición digital son la codificación, la profundidad de color, la resolución (también llamada tamaño del cuadro) y el submuestreo.

Codificación

La codificación (el hecho de comprimir la información de una determinada manera, de forma que se reduce la capacidad necesaria de almacenamiento y que se disminuyen las tasas de transferencia para leer/escribir las imágenes) es un aspecto básico a tener en cuenta en composición digital, pues de ella dependerá un factor significativo del resultado final cómo es la calidad de la imagen.6​ Determinada la capacidad de los recursos de que se disponen, la codificación será:

• Sin pérdidas, de forma que la compresión y descompresión del archivo no generan una disminución de las prestaciones de la imagen: la compresión y descompresión de la imagen tienen como resultado un archivo idéntico al original pudiéndose producir este proceso infinitas veces, pero con el inconveniente que las tasas de compresión son bastante bajas (pues solo se manipula, mediante operaciones matemáticas, la información de otro modo para conseguir reducir el peso del archivo mientras que se mantengan sus prestaciones al máximo).
• Con pérdidas, que reducirá la calidad de la imagen, eliminando la información que menos importante se considera para leer una imagen, pero que permitirá tasas de compresión más altas. La pérdida de calidad y de información variará según el còdec usado, de forma que este será determinante en el resultado final.

• Profundidad de color

  Artículo principal: Profundidad de color.

  La profundidad de color (o de bit) es el número de bits de información de que dispone un determinado formado en los tres canales de color (verde, rojo y azul). A mayor profundidad de color, por lo tanto, se puede representar una diversidad más amplia de colores. La profundidad de color de un formato de vídeo, pues, expresa la cantidad de información del archivo.

  En composición digital este aspecto cobra importancia en procesos cómo:

  • El uso del croma: los algoritmos usados en la generación de este efecto (para separar, pues, la imagen del fondo) dependen de las diferencias de colores, de forma que el resultado de la máscara será más preciso cuanto más información (mayor profundidad de color) tenga al alcance el algoritmo.
  • La aparición de bandeados (es decir, una deformación del color digital) que se da al haber una transición de colores con una profundidad de color reducida. Este fenómeno sucede en los degradados, generando líneas en estos.

  Las profundidades de color más habituales son:

  • 8 bits: permite la reproducción de 256 colores por píxel, el que se traduce en unos 16,78 millones de colores posibles.
  • 16 bits: permite la reproducción de 65,536 colores por píxel, o sea, unos 281 trillones de colores posibles.
  • 32 bits: permite la reproducción de 4,29 trillones de colores por píxel, es decir 7,95×1028 colores posibles.

  • Resolución

    En este caso la importancia recae en la resolución de cada fotograma de un vídeo, es decir, en su número de píxeles en anchura y en altura. Todo y la gran diversidad de resoluciones que hay, existen una serie de resoluciones más o menos estandarizadas que se aplican en la industria en base al ámbito de exposición del producto audiovisual:

    • SD ("Standard Definition"): con una resolución de 576x720, esta familia de formatos se constituyeron en un estándar en los primeros años de la televisión digital. En el sistema PAL de televisión (derivado del sistema NTSC originado en los Estados Unidos de América), con un relación de aspecto de píxeles de 1,09 para el 4:3 y uno de 1,46 para el 16:19 (siendo, pues, los píxeles rectangulares).
    • NTSC: 720x408 píxeles con una relación de aspecto de píxeles de 0,91 para el 4:3 y de 1,21 para el 16:9.
    • Se estandarizan y homogeneizan los formados raíz de la introducción del alta definición (llamada HD, que tiene una resolución de 1270x720 píxeles): a partir de ahora la relación de aspecto de píxeles será siempre 1.
    • FHD, de la inglesa "hoja HD": 1920x1080 píxeles.
    • Ultra HD: 3840x2160 píxeles.

    En cuanto al cine, se destacan dos resoluciones como las más estandarizadas:

    • 2k: 2048x1556 píxeles.
    • 4k: 4096x3112 píxeles. Es el formato que se ha impuesto en las cámaras de cine digital, puesto que ofrece una buena calidad en cuanto a resolución sin que esto implique la necesidad de grandes capacidades de almacenamiento.

    Todo y estas medidas estándares, un trabajo en composición digital puede comportar el tratamiento de vídeos con una medida de cuadro variada (por ejemplo porque los sensores de las cámaras disponen de varias resoluciones). Son ejemplos las resoluciones 6k y 8k.

  • Submuestreo de color 

    Artículo principal: Submuestreo de crominancia.

  • Con la necesidad de comprimir una señal de vídeo (que en principio pesa mucho y contiene información de color redundante), es necesario su muestreo, pues se dispone de una anchura de banda limitada. Lo que se efectúa, con este objetivo, es una supresión de una gran parte de la información de la crominancia. Así, se hace prevalecer la información de la luminancia, a la cual el ojo humano es más sensible. Es importante que cada formato de vídeo señale su submuestreo, pues este supone un límite a tener en cuenta a la hora de tratar la información de color de los archivos, limitando por lo tanto el tratamiento de las imágenes en posproducción.

    Suele representarse con una matriz del formato n:n:n (en el que la primera cifra hace referencia a la luminancia y las otras dos a la crominancia). Se usa como máximo el 4 (que indica nula compresión) y como mínimo el 0 (máxima compresión). En los flujos de trabajo de la composición digital, es usual una necesidad de trascodificar materiales: la calidad de la producción será mayor cuanto menos degradado esté el material.

  • Formatos de archivo

    En el ámbito profesional de la composición digital, los principales formatos sobre los que se trabaja son:

    • DNG: para trabajar en archivos de extensión raw.
    • OpenEXR: tanto en profundidad de 16 bits como de 32 bits, con coma flotante. Trabaja con espacios de colores lineales y permite la manipulación multicanal para cada archivo. Acostumbra a manejar tamaños de archivos grandes y permite varios tipos de compresión (tanto con cómo sin pérdidas: RLE, zip, PIZ, PXR24, B44, B44A, DWAA y DWAB). Permite rangos dinámicos de más de 30 pasos de exposición.
    • DPX: nacido para almacenar archivos Cineon de Kodak, que se utilizaban para la digitalización de las películas de 35mm, se ha convertido en uno de los formatos estándar más comunes para el trabajo en vídeo digital. Se usa habitualmente con el objetivo de representar la densidad de cada canal de color de un negativo escaneado en una imagen "logarítmica" sin comprimir.