add ADDMOD, MULMOD, vmBitwiseLogicOperation tests

todo: fix BYTE