You've already forked FFmpeg
mirror of
https://github.com/FFmpeg/FFmpeg.git
synced 2025-08-04 22:03:09 +02:00
avcodec/svq3: Factor out decoding extradata
Reduces indentation and avoids an extra variable for whether a sequence header has been found. It also fixes potential undefined behaviour: NULL + 0 is undefined and happens when no extradata is available. Signed-off-by: Andreas Rheinhardt <andreas.rheinhardt@outlook.com>
This commit is contained in:
Andreas Rheinhardt
@@ -1114,14 +1114,139 @@ static void init_dequant4_coeff_table(SVQ3Context *s)
|
|||||||
}
|
}
|
||||||
}
|
}
|
||||||
|
|
||||||
|
static av_cold int svq3_decode_extradata(AVCodecContext *avctx, SVQ3Context *s,
|
||||||
|
int seqh_offset)
|
||||||
|
{
|
||||||
|
const uint8_t *extradata = avctx->extradata + seqh_offset;
|
||||||
|
unsigned int size = AV_RB32(extradata + 4);
|
||||||
|
GetBitContext gb;
|
||||||
|
int ret;
|
||||||
|
|
||||||
|
if (size > avctx->extradata_size - seqh_offset - 8)
|
||||||
|
return AVERROR_INVALIDDATA;
|
||||||
|
extradata += 8;
|
||||||
|
init_get_bits(&gb, extradata, size * 8);
|
||||||
|
|
||||||
|
/* 'frame size code' and optional 'width, height' */
|
||||||
|
int frame_size_code = get_bits(&gb, 3);
|
||||||
|
int w, h;
|
||||||
|
switch (frame_size_code) {
|
||||||
|
case 0:
|
||||||
|
w = 160;
|
||||||
|
h = 120;
|
||||||
|
break;
|
||||||
|
case 1:
|
||||||
|
w = 128;
|
||||||
|
h = 96;
|
||||||
|
break;
|
||||||
|
case 2:
|
||||||
|
w = 176;
|
||||||
|
h = 144;
|
||||||
|
break;
|
||||||
|
case 3:
|
||||||
|
w = 352;
|
||||||
|
h = 288;
|
||||||
|
break;
|
||||||
|
case 4:
|
||||||
|
w = 704;
|
||||||
|
h = 576;
|
||||||
|
break;
|
||||||
|
case 5:
|
||||||
|
w = 240;
|
||||||
|
h = 180;
|
||||||
|
break;
|
||||||
|
case 6:
|
||||||
|
w = 320;
|
||||||
|
h = 240;
|
||||||
|
break;
|
||||||
|
case 7:
|
||||||
|
w = get_bits(&gb, 12);
|
||||||
|
h = get_bits(&gb, 12);
|
||||||
|
break;
|
||||||
|
}
|
||||||
|
ret = ff_set_dimensions(avctx, w, h);
|
||||||
|
if (ret < 0)
|
||||||
|
return ret;
|
||||||
|
|
||||||
|
s->halfpel_flag = get_bits1(&gb);
|
||||||
|
s->thirdpel_flag = get_bits1(&gb);
|
||||||
|
|
||||||
|
/* unknown fields */
|
||||||
|
int unk0 = get_bits1(&gb);
|
||||||
|
int unk1 = get_bits1(&gb);
|
||||||
|
int unk2 = get_bits1(&gb);
|
||||||
|
int unk3 = get_bits1(&gb);
|
||||||
|
|
||||||
|
s->low_delay = get_bits1(&gb);
|
||||||
|
avctx->has_b_frames = !s->low_delay;
|
||||||
|
|
||||||
|
/* unknown field */
|
||||||
|
int unk4 = get_bits1(&gb);
|
||||||
|
|
||||||
|
av_log(avctx, AV_LOG_DEBUG, "Unknown fields %d %d %d %d %d\n",
|
||||||
|
unk0, unk1, unk2, unk3, unk4);
|
||||||
|
|
||||||
|
if (skip_1stop_8data_bits(&gb) < 0)
|
||||||
|
return AVERROR_INVALIDDATA;
|
||||||
|
|
||||||
|
s->has_watermark = get_bits1(&gb);
|
||||||
|
|
||||||
|
if (!s->has_watermark)
|
||||||
|
return 0;
|
||||||
|
|
||||||
|
#if CONFIG_ZLIB
|
||||||
|
unsigned watermark_width = get_interleaved_ue_golomb(&gb);
|
||||||
|
unsigned watermark_height = get_interleaved_ue_golomb(&gb);
|
||||||
|
int u1 = get_interleaved_ue_golomb(&gb);
|
||||||
|
int u2 = get_bits(&gb, 8);
|
||||||
|
int u3 = get_bits(&gb, 2);
|
||||||
|
int u4 = get_interleaved_ue_golomb(&gb);
|
||||||
|
unsigned long buf_len = watermark_width *
|
||||||
|
watermark_height * 4;
|
||||||
|
int offset = get_bits_count(&gb) + 7 >> 3;
|
||||||
|
|
||||||
|
if (watermark_height <= 0 ||
|
||||||
|
get_bits_left(&gb) <= 0 ||
|
||||||
|
(uint64_t)watermark_width * 4 > UINT_MAX / watermark_height)
|
||||||
|
return AVERROR_INVALIDDATA;
|
||||||
|
|
||||||
|
av_log(avctx, AV_LOG_DEBUG, "watermark size: %ux%u\n",
|
||||||
|
watermark_width, watermark_height);
|
||||||
|
av_log(avctx, AV_LOG_DEBUG,
|
||||||
|
"u1: %x u2: %x u3: %x compressed data size: %d offset: %d\n",
|
||||||
|
u1, u2, u3, u4, offset);
|
||||||
|
|
||||||
|
uint8_t *buf = av_malloc(buf_len);
|
||||||
|
if (!buf)
|
||||||
|
return AVERROR(ENOMEM);
|
||||||
|
|
||||||
|
if (uncompress(buf, &buf_len, extradata + offset,
|
||||||
|
size - offset) != Z_OK) {
|
||||||
|
av_log(avctx, AV_LOG_ERROR,
|
||||||
|
"could not uncompress watermark logo\n");
|
||||||
|
av_free(buf);
|
||||||
|
return -1;
|
||||||
|
}
|
||||||
|
s->watermark_key = av_bswap16(av_crc(av_crc_get_table(AV_CRC_16_CCITT), 0, buf, buf_len));
|
||||||
|
|
||||||
|
s->watermark_key = s->watermark_key << 16 | s->watermark_key;
|
||||||
|
av_log(avctx, AV_LOG_DEBUG,
|
||||||
|
"watermark key %#"PRIx32"\n", s->watermark_key);
|
||||||
|
av_free(buf);
|
||||||
|
|
||||||
|
return 0;
|
||||||
|
#else
|
||||||
|
av_log(avctx, AV_LOG_ERROR,
|
||||||
|
"this svq3 file contains watermark which need zlib support compiled in\n");
|
||||||
|
return AVERROR(ENOSYS);
|
||||||
|
#endif
|
||||||
|
}
|
||||||
|
|
||||||
static av_cold int svq3_decode_init(AVCodecContext *avctx)
|
static av_cold int svq3_decode_init(AVCodecContext *avctx)
|
||||||
{
|
{
|
||||||
SVQ3Context *s = avctx->priv_data;
|
SVQ3Context *s = avctx->priv_data;
|
||||||
int m, x, y;
|
int m, x, y;
|
||||||
unsigned char *extradata;
|
unsigned char *extradata;
|
||||||
unsigned char *extradata_end;
|
|
||||||
unsigned int size;
|
|
||||||
int marker_found = 0;
|
|
||||||
int ret;
|
int ret;
|
||||||
|
|
||||||
s->cur_pic = &s->frames[0];
|
s->cur_pic = &s->frames[0];
|
||||||
@@ -1154,139 +1279,19 @@ static av_cold int svq3_decode_init(AVCodecContext *avctx)
|
|||||||
|
|
||||||
/* prowl for the "SEQH" marker in the extradata */
|
/* prowl for the "SEQH" marker in the extradata */
|
||||||
extradata = (unsigned char *)avctx->extradata;
|
extradata = (unsigned char *)avctx->extradata;
|
||||||
extradata_end = avctx->extradata + avctx->extradata_size;
|
|
||||||
if (extradata) {
|
if (extradata) {
|
||||||
for (m = 0; m + 8 < avctx->extradata_size; m++) {
|
for (m = 0; m + 8 < avctx->extradata_size; m++) {
|
||||||
if (!memcmp(extradata, "SEQH", 4)) {
|
if (!memcmp(extradata, "SEQH", 4)) {
|
||||||
marker_found = 1;
|
/* if a match was found, parse the extra data */
|
||||||
|
ret = svq3_decode_extradata(avctx, s, m);
|
||||||
|
if (ret < 0)
|
||||||
|
return ret;
|
||||||
break;
|
break;
|
||||||
}
|
}
|
||||||
extradata++;
|
extradata++;
|
||||||
}
|
}
|
||||||
}
|
}
|
||||||
|
|
||||||
/* if a match was found, parse the extra data */
|
|
||||||
if (marker_found) {
|
|
||||||
GetBitContext gb;
|
|
||||||
int frame_size_code;
|
|
||||||
int unk0, unk1, unk2, unk3, unk4;
|
|
||||||
int w,h;
|
|
||||||
|
|
||||||
size = AV_RB32(&extradata[4]);
|
|
||||||
if (size > extradata_end - extradata - 8)
|
|
||||||
return AVERROR_INVALIDDATA;
|
|
||||||
init_get_bits(&gb, extradata + 8, size * 8);
|
|
||||||
|
|
||||||
/* 'frame size code' and optional 'width, height' */
|
|
||||||
frame_size_code = get_bits(&gb, 3);
|
|
||||||
switch (frame_size_code) {
|
|
||||||
case 0:
|
|
||||||
w = 160;
|
|
||||||
h = 120;
|
|
||||||
break;
|
|
||||||
case 1:
|
|
||||||
w = 128;
|
|
||||||
h = 96;
|
|
||||||
break;
|
|
||||||
case 2:
|
|
||||||
w = 176;
|
|
||||||
h = 144;
|
|
||||||
break;
|
|
||||||
case 3:
|
|
||||||
w = 352;
|
|
||||||
h = 288;
|
|
||||||
break;
|
|
||||||
case 4:
|
|
||||||
w = 704;
|
|
||||||
h = 576;
|
|
||||||
break;
|
|
||||||
case 5:
|
|
||||||
w = 240;
|
|
||||||
h = 180;
|
|
||||||
break;
|
|
||||||
case 6:
|
|
||||||
w = 320;
|
|
||||||
h = 240;
|
|
||||||
break;
|
|
||||||
case 7:
|
|
||||||
w = get_bits(&gb, 12);
|
|
||||||
h = get_bits(&gb, 12);
|
|
||||||
break;
|
|
||||||
}
|
|
||||||
ret = ff_set_dimensions(avctx, w, h);
|
|
||||||
if (ret < 0)
|
|
||||||
return ret;
|
|
||||||
|
|
||||||
s->halfpel_flag = get_bits1(&gb);
|
|
||||||
s->thirdpel_flag = get_bits1(&gb);
|
|
||||||
|
|
||||||
/* unknown fields */
|
|
||||||
unk0 = get_bits1(&gb);
|
|
||||||
unk1 = get_bits1(&gb);
|
|
||||||
unk2 = get_bits1(&gb);
|
|
||||||
unk3 = get_bits1(&gb);
|
|
||||||
|
|
||||||
s->low_delay = get_bits1(&gb);
|
|
||||||
|
|
||||||
/* unknown field */
|
|
||||||
unk4 = get_bits1(&gb);
|
|
||||||
|
|
||||||
av_log(avctx, AV_LOG_DEBUG, "Unknown fields %d %d %d %d %d\n",
|
|
||||||
unk0, unk1, unk2, unk3, unk4);
|
|
||||||
|
|
||||||
if (skip_1stop_8data_bits(&gb) < 0)
|
|
||||||
return AVERROR_INVALIDDATA;
|
|
||||||
|
|
||||||
s->has_watermark = get_bits1(&gb);
|
|
||||||
avctx->has_b_frames = !s->low_delay;
|
|
||||||
if (s->has_watermark) {
|
|
||||||
#if CONFIG_ZLIB
|
|
||||||
unsigned watermark_width = get_interleaved_ue_golomb(&gb);
|
|
||||||
unsigned watermark_height = get_interleaved_ue_golomb(&gb);
|
|
||||||
int u1 = get_interleaved_ue_golomb(&gb);
|
|
||||||
int u2 = get_bits(&gb, 8);
|
|
||||||
int u3 = get_bits(&gb, 2);
|
|
||||||
int u4 = get_interleaved_ue_golomb(&gb);
|
|
||||||
unsigned long buf_len = watermark_width *
|
|
||||||
watermark_height * 4;
|
|
||||||
int offset = get_bits_count(&gb) + 7 >> 3;
|
|
||||||
uint8_t *buf;
|
|
||||||
|
|
||||||
if (watermark_height <= 0 ||
|
|
||||||
get_bits_left(&gb) <= 0 ||
|
|
||||||
(uint64_t)watermark_width * 4 > UINT_MAX / watermark_height)
|
|
||||||
return AVERROR_INVALIDDATA;
|
|
||||||
|
|
||||||
buf = av_malloc(buf_len);
|
|
||||||
if (!buf)
|
|
||||||
return AVERROR(ENOMEM);
|
|
||||||
|
|
||||||
av_log(avctx, AV_LOG_DEBUG, "watermark size: %ux%u\n",
|
|
||||||
watermark_width, watermark_height);
|
|
||||||
av_log(avctx, AV_LOG_DEBUG,
|
|
||||||
"u1: %x u2: %x u3: %x compressed data size: %d offset: %d\n",
|
|
||||||
u1, u2, u3, u4, offset);
|
|
||||||
if (uncompress(buf, &buf_len, extradata + 8 + offset,
|
|
||||||
size - offset) != Z_OK) {
|
|
||||||
av_log(avctx, AV_LOG_ERROR,
|
|
||||||
"could not uncompress watermark logo\n");
|
|
||||||
av_free(buf);
|
|
||||||
return -1;
|
|
||||||
}
|
|
||||||
s->watermark_key = av_bswap16(av_crc(av_crc_get_table(AV_CRC_16_CCITT), 0, buf, buf_len));
|
|
||||||
|
|
||||||
s->watermark_key = s->watermark_key << 16 | s->watermark_key;
|
|
||||||
av_log(avctx, AV_LOG_DEBUG,
|
|
||||||
"watermark key %#"PRIx32"\n", s->watermark_key);
|
|
||||||
av_free(buf);
|
|
||||||
#else
|
|
||||||
av_log(avctx, AV_LOG_ERROR,
|
|
||||||
"this svq3 file contains watermark which need zlib support compiled in\n");
|
|
||||||
return AVERROR(ENOSYS);
|
|
||||||
#endif
|
|
||||||
}
|
|
||||||
}
|
|
||||||
|
|
||||||
s->mb_width = (avctx->width + 15) / 16;
|
s->mb_width = (avctx->width + 15) / 16;
|
||||||
s->mb_height = (avctx->height + 15) / 16;
|
s->mb_height = (avctx->height + 15) / 16;
|
||||||
s->mb_stride = s->mb_width + 1;
|
s->mb_stride = s->mb_width + 1;
|
||||||
|
|||||||
Reference in New Issue
Block a user