SQL語句中 int 溢出 + Asp語句中 Long 溢出

標籤：

晚上5點多，同事在QQ告訴我，一個使用者向他反應，在他登入的時候顯示錯誤資訊，我們在管理平台查看該使用者的基本資料時，也顯示錯誤資訊。

經過初步分析，原來是在執行 SQL語句的時候發生Int溢出：

sql = "select sum(fileSize) as fsTotal from pic where userID = 1632"

本來這段SQL是用來取得一個使用者之前上傳的所有檔案大小的合計數。

fileSize 欄位類型 int

當使用者上傳的檔案累計大小超過 2G(2147483648位元組)，再執行 sum(fileSize) 就會發生Int溢出。

找到問題的原因後，開始修改 sql語句：

sql = "select sum(cast(fileSize as bigint)) as fsTotal from pic where userID = 1632"

修改後，再測試發現還是有錯誤，不過這個時候的錯誤不是因為這段SQL，而是來自 asp 的 long 溢出。

sql = "select sum(cast(fileSize as bigint)) as fsTotal from pic where userID = 1632"
set re=conn.execute(sql)
if not re.eof then
    fsTotal = re.fields("fsTotal ")
    fsTotal = fsTotal / 1024 / 1024 ‘轉換成MB - 發生 long 溢出
end if

修改代碼：

fsTotal = re.fields("fsTotal ")
fsTotal = cdbl(fsTotal ) ‘先轉換成 double型,再進行下一步的操作
fsTotal = fsTotal / 1024 / 1024 ‘轉換成MB

-----------------------------------------------------------------------------------------------------------

SQL Server，int類型值最大2147483647（2^31 - 1）
ASP，Long (長整型) 4 個位元組 -2,147,483,648 到 2,147,483,647

 

2010-11-03

SQL語句中 int 溢出 + Asp語句中 Long 溢出