надо кастить к int, так как av_clip_uint8 принимает int
ниже аналогично