我想将一个varchar(max)
列转换为decimal(10,4)
。
当我尝试使用cast
或convert
时,会出现算术溢出异常。问题在于存储在varchar列中的数据可能具有不同的精度和不同的小数位数。例如,123456789.1234567'、1.12345678或123456.1234等。
对于像123456.1234这样的值,它可以顺利转换,但对于其他值,我遇到了一些问题。
我想将一个varchar(max)
列转换为decimal(10,4)
。
当我尝试使用cast
或convert
时,会出现算术溢出异常。问题在于存储在varchar列中的数据可能具有不同的精度和不同的小数位数。例如,123456789.1234567'、1.12345678或123456.1234等。
对于像123456.1234这样的值,它可以顺利转换,但对于其他值,我遇到了一些问题。
经过测试,我发现问题不是小数位引起的,而是精度 (10) 引起的。
这样做行不通:将 varchar 转换为数字类型时出现算术溢出错误。
DECLARE @TestConvert VARCHAR(MAX) = '123456789.12343594'
SELECT CAST(@TestConvert AS DECIMAL(10, 4))
这个有效了
DECLARE @TestConvert VARCHAR(MAX) = '123456789.12343594'
SELECT CAST(@TestConvert AS DECIMAL(13, 4))
应该像9个整数+4个浮点数=13个字符一样
我的解释在代码中。 :)
DECLARE @TestConvert VARCHAR(MAX) = '123456789.1234567'
BEGIN TRY
SELECT CAST(@TestConvert AS DECIMAL(10, 4))
END TRY
BEGIN CATCH
SELECT 'The reason you get the message "' + ERROR_MESSAGE() + '" is because DECIMAL(10, 4) only allows for 4 numbers after the decimal.'
END CATCH
-- Here's one way to truncate the string to a castable value.
SELECT CAST(LEFT(@TestConvert, (CHARINDEX('.', @TestConvert, 1) + 4)) AS DECIMAL(14, 4))
-- If you noticed, I changed it to DECIMAL(14, 4) instead of DECIMAL(10, 4) That's because this number has 14 digits, as proven below.
-- Read this for a better explanation as to what precision, scale and length mean: http://msdn.microsoft.com/en-us/library/ms190476(v=sql.105).aspx
SELECT LEN(LEFT(@TestConvert, (CHARINDEX('.', @TestConvert, 1) + 4)))
我想出了以下解决方案:
SELECT [Str], DecimalParsed = CASE
WHEN ISNUMERIC([Str]) = 1 AND CHARINDEX('.', [Str])=0 AND LEN(REPLACE(REPLACE([Str], '-', ''), '+', '')) < 29 THEN CONVERT(decimal(38,10), [Str])
WHEN ISNUMERIC([Str]) = 1 AND (CHARINDEX('.', [Str])!=0 AND CHARINDEX('.', REPLACE(REPLACE([Str], '-', ''), '+', ''))<=29) THEN
CONVERT(decimal(38,10),
CASE WHEN LEN([Str]) - LEN(REPLACE(REPLACE(REPLACE(REPLACE(REPLACE(REPLACE(REPLACE(REPLACE(REPLACE(REPLACE([Str], '0', ''), '1', ''), '2', ''), '3', ''), '4', ''), '5', ''), '6', ''), '7', ''), '8', ''), '9', '')) <= 38
THEN [Str]
ELSE SUBSTRING([Str], 1, 38 + LEN(REPLACE(REPLACE(REPLACE(REPLACE(REPLACE(REPLACE(REPLACE(REPLACE(REPLACE(REPLACE([Str], '0', ''), '1', ''), '2', ''), '3', ''), '4', ''), '5', ''), '6', ''), '7', ''), '8', ''), '9', ''))) END)
ELSE NULL END
FROM TestStrToDecimal
我知道这看起来可能有些过度,实际上也许是这样的,但是对我来说有效(已检查过不同精度和规模的正数、负数、大数和小数——所有内容都被转换为decimal(38,10)
或NULL
)。
它是硬编码为decimal(38,10)
类型的,所以如果您需要不同的精度,请更改代码中的常量(38、10、29)。
它如何工作?结果是:
每种情况在上面的代码中都是单独的WHEN语句。
以下是一些转换示例:
DECLARE @StringVal varchar(50)
SET @StringVal = '123456789.1234567'
SELECT @StringVal, CAST(@StringVal AS FLOAT)
SET @StringVal = '1.12345678'
SELECT @StringVal, CAST(@StringVal AS FLOAT)
SET @StringVal = '123456.1234'
SELECT @StringVal, CAST(@StringVal AS FLOAT)
您需要注意的是,6.999,50不是有效的十进制数。一个十进制数中不能同时有逗号和小数点,这个数字应该是什么?
假设您的语言环境将"."作为分组符号,","作为小数分隔符:要删除分组数字:
SELECT CONVERT(decimal(11,2), REPLACE('6.999,50', '.', ''))
将得到6999.50作为十进制数。
在将值放入该列之前,您需要自己将其作为字符串截断。
否则,如果您想要更多的小数位数,则需要更改十进制列的声明。
使用自定义函数实现。 这将检查字符串值是否可以安全地转换为十进制数。
CREATE FUNCTION [dbo].[TryParseAsDecimal]
(
@Value NVARCHAR(4000)
,@Precision INT
,@Scale INT
)
RETURNS BIT
AS
BEGIN
IF(ISNUMERIC(@Value) =0) BEGIN
RETURN CAST(0 AS BIT)
END
SELECT @Value = REPLACE(@Value,',','') --Removes the comma
--This function validates only the first part eg '1234567.8901111111'
--It validates only the values before the '.' ie '1234567.'
DECLARE @Index INT
DECLARE @Part1Length INT
DECLARE @Part1 VARCHAR(4000)
SELECT @Index = CHARINDEX('.', @Value, 0)
IF (@Index>0) BEGIN
--If decimal places, extract the left part only and cast it to avoid leading zeros (eg.'0000000001' => '1')
SELECT @Part1 =LEFT(@Value, @Index-1);
SELECT @Part1=SUBSTRING(@Part1, PATINDEX('%[^0]%', @Part1+'.'), LEN(@Part1));
SELECT @Part1Length = LEN(@Part1);
END
ELSE BEGIN
SELECT @Part1 =CAST(@Value AS DECIMAL);
SELECT @Part1Length= LEN(@Part1)
END
IF (@Part1Length > (@Precision-@Scale)) BEGIN
RETURN CAST(0 AS BIT)
END
RETURN CAST(1 AS BIT)
END
DECIMAL(10,4)
,则可以拥有 10 个数字,其中 4 个数字在小数点后面。
因此,123456.1234有10个数字,小数点后有4个数字。它将适合DECIMAL(10,4)
的参数。
1234567.1234将抛出错误。有11个数字要放入10个数字的空间中,并且必须在小数点后使用4个数字。不能从小数的左侧削减一个数字。
如果您的11个字符是123456.12345,则不会引发错误,因为从小数值的末尾修整(四舍五入)是可接受的。DECIMAL(9,2)
。
这将在抛出错误之前给您最大的9999999.99。DECIMAL(10,4)
并且无法更改,对此的解决方案是最简单的方法。
检查您的小数是否不超过10个点,然后将其修剪为10个数字。CASE WHEN CHARINDEX('.',CONVERT(VARCHAR(50),[columnName]))>10 THEN 'DealWithIt'
ELSE LEFT(CONVERT(VARCHAR(50),[columnName]),10)
END AS [10PointDecimalString]
create function [Sistema].[fParseDecimal]
(
@Valor nvarchar(4000)
)
returns decimal(18, 4) as begin
declare @Valores table (Valor varchar(50));
insert into @Valores values (@Valor);
declare @Resultado decimal(18, 4) = (select top 1
cast('' as xml).value('sql:column("Valor") cast as xs:decimal ?', 'decimal(18, 4)')
from @Valores);
return @Resultado;
END
123456789.1234567
能放进一个DECIMAL(10,4)
里面吗?请翻译。 - Aaron Bertrand