有一個需求是要在一個云監(jiān)控的狀態(tài)值中存儲多個狀態(tài)(包括可同時存在的各種異常、警告狀態(tài))使用了位運算機制在一個int型中存儲。
現(xiàn)在監(jiān)控日志數(shù)據(jù)量非常大(億級別)需要對數(shù)據(jù)按每小時、每天進行聚合,供在線報表使用。
狀態(tài)分了3個級別:正常(0)、警告(1)、異常(2),聚合時需要使用max選擇最差的狀態(tài),就需要對狀態(tài)值進行處理加上級別和狀態(tài)位個數(shù),就要借助bigint型來做運算了,
問題是再將bigint 轉(zhuǎn)為 int時獲取原始狀態(tài)值時,SQLServer報錯了:
消息 8115,級別 16,狀態(tài) 2,第 1 行
將 expression 轉(zhuǎn)換為數(shù)據(jù)類型 int 時出現(xiàn)算術(shù)溢出錯誤。
因為狀態(tài)碼中已經(jīng)用到了 0x80000000, 出現(xiàn)了符號位的問題。
寫了一個轉(zhuǎn)換函數(shù)解決了。
?1234567891011121314151617181920212223 CREATE FUNCTION [dbo].[BigintToInt] ( @Value bigint ) RETURNS int AS BEGIN -- 是否有int符號位 IF @Value & 0x80000000 <> 0 RETURN @Value & 0xFFFFFFFF | 0xFFFFFFFF00000000 -- 無符號位 RETURN @Value & 0xFFFFFFFF END
更多信息請查看IT技術(shù)專欄