容易引起问题的隐式精度转换

最近项目中有需求对存有 ARGB8888 数据的 Bitmap 进行基于原值的透明度(alpha 值)调整,要对每个像素的 alpha byte 处理。

问题

下表描述了 byte 类型在图像处理和 Java 中分别的表达范围

领域 符号 表达范围
图像处理 unsigned [0..255]
Java signed [-128..127]

假设 Bitmap 中某像素的 alpha byte 二进制表示为 1000 0000
解析为 unsigned 时数值为 128,而 signed 时则为 -128。

此时如果想将它减半,期望为 128 / 2 = 64 (0100 0000)。
因此在所有数值都被作为 signed 解析的 Java 中,进行以上计算会出现问题。

1: byte a = (byte) 128; // int 128 的高 24 位被截断,成为 1000 0000
2: System.out.println(a); // 输出 -128,证明被作为 signed 解析了
3: byte b = (byte) (a / 2); // alpha 值减半,-128 / 2 = -64
4: System.out.println(b); // 输出 -64 (1100 0000)

很明显这与期望的 64 (0100 0000) 不同,如果把在 Java 中计算后的结果保存起来,在图像处理中该 alpha 会被解释为 192 (1100 0000)

精度转换

当 2 个不同类型的数值进行计算时,精度较低的其中 1 个必须先转换为精度较高的类型,然后再继续进行计算。

隐式转换

以上第 3 行代码中类型为 bytea 精度比类型为 inta 低,所以需要被隐式转换为 int,那么将这行代码分为 3 步。

  1. 隐式转换 aint: int t = a
  2. 开始计算: int t1 = t / 2
  3. int 截断转为 byte: byte b = (byte) t1

引起问题的隐式精度转换

其实引起问题的是以上的步骤 1,当 byte 转换为 int 时,最高位的值会被用作填充转换后 int 的高 24 位。

a (1000 0000)
隐式转换为
t (1111 1111 1111 1111 1111 1111 1000 0000)

这时 t 在 Java 中被解析为 -128,因此步骤 2 的计算会有问题。

解决方法

在步骤 1 后插入一个与操作 t = t & 0xff,将高 24 位的值置为 0

t (1111 1111 1111 1111 1111 1111 1000 0000)
&
0xff (0000 0000 0000 0000 0000 0000 1111 1111)
=
t (0000 0000 0000 0000 0000 0000 1000 0000)

这时 t 在 Java 中被解析为 128,这时拿去计算就可以得到预期结果了。

那么将源代码改一下如下

3: byte b = (byte) ((a & 0xff) / 2); // alpha 值减半,128 / 2 = 64

内置方法

其实也可以用 int Byte:toUnsignedInt(byte) 去达到相同的效果,原理是一样的。

public static int toUnsignedInt(byte x) {
    return ((int) x) & 0xff;
}
3: byte b = (byte) (Byte.toUnsignedInt(a) / 2); // alpha 值减半,128 / 2 = 64
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 214,444评论 6 496
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 91,421评论 3 389
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 160,036评论 0 349
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 57,363评论 1 288
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 66,460评论 6 386
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,502评论 1 292
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,511评论 3 412
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,280评论 0 270
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,736评论 1 307
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,014评论 2 328
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,190评论 1 342
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,848评论 5 338
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,531评论 3 322
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,159评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,411评论 1 268
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,067评论 2 365
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,078评论 2 352

推荐阅读更多精彩内容

  • 1 关键字 1.1 关键字的概述 Java的关键字对java的编译器有特殊的意义,他们用来表示一种数据类型,或...
    哈哈哎呦喂阅读 649评论 0 0
  • 1.编译程序(1)gcc xx.c,他会默认生成一个a.out的可执行文件,在a.out所在目录,执行./a.o...
    萌面大叔2阅读 1,273评论 0 1
  • 1.编译程序 (1)gcc xx.c,他会默认生成一个a.out的可执行文件,在a.out所在目录,执行./a....
    萌面大叔2阅读 468评论 0 1
  • C语言基础 编译程序 gcc xx.c,他会默认生成a.out的可执行文件,在a.out所在目录,执行./a.ou...
    帅碧阅读 626评论 1 3
  • 凌素雯阅读 164评论 0 0