突破 SQL Server T-SQL 限制,借助 CLR 集成加强数据库功能

文章介绍了如何利用CLR集成提升阿里云RDS SQL Server的功能,突破T-SQL限制,实现复杂任务处理。探讨安全性及实际应用场景。

原文标题:突破T-SQL限制:利用CLR集成扩展RDS SQL Server的功能边界

原文作者:阿里云开发者

冷月清谈:

本文着眼于SQL Server的CLR集成技术,探讨了如何利用这一功能突破T-SQL的限制,扩展数据库的应用场景。CLR(Common Language Runtime)允许开发人员使用.NET语言(如C#)编写和执行存储过程、触发器及用户自定义函数,增强了对复杂任务的处理能力,包括字符串操作、文件处理和机器学习等。同时,文章提供了在阿里云RDS SQL Server中部署CLR集成功能的详细步骤及示例,通过一个情绪偏好分析的DEMO,展示了CLR的实际应用。最后讨论了CLR集成的安全性问题及其在实际项目中的运用场景,为开发人员提供了一个高效的解决方案,帮助他们更好地处理复杂的数据库任务。

怜星夜思:

1、CLR集成的安全性问题如何解决?
2、在什么情况下使用CLR集成比T-SQL更优?
3、如何评价CLR与传统T-SQL的结合使用?

原文内容

阿里妹导读


CLR集成为SQL Server提供了强大的扩展能力,突破了T-SQL的限制,极大地拓展了SQL 的应用场景,如:复杂字符串处理、高性能计算、图像处理、机器学习集成、自定义加密解密等,使开发人员能够利用 .NET Framework的丰富功能来处理复杂的数据库任务。


一、前言

SQL Server 的 Common Language Runtime (CLR) 集成是一种允许开发人员使用 .NET Framework 的编程语言(如 C# )编写和执行存储过程、触发器、用户自定义函数(UDF)以及其他数据库对象的功能。通过 CLR 集成,SQL Server 可以利用 .NET 能力处理更复杂的任务,例如字符串操作、文件处理、正则表达式解析等。这为开发人员提供了更强大的工具,尤其是在面对计算密集型任务或处理 T-SQL 无法有效解决的业务逻辑时,CLR 集成成为一种灵活且高效的解决方案。

本文通过DEMO,详细为大家介绍如何在阿里云数据库RDS SQL Server(下文简称 RDS SQL Server)中部署和使用CLR集成函数。

二、环境准备


先决条件

如果要部署CLR集成,首先需要配置 RDS SQL Server实例级参数“clr enabled”为1(该值默认为0)。登录RDS SQL Server控制台,进入参数设置页面,找到 clr enabled参数,即可启用CLR选项,如图1所示:





图1.设置“clr enabled”参数值为1 


DEMO程序:情绪偏好分析函数

下面我们通过一个DEMO程序(简单的情绪偏好分析函数)阐述如何将CLR部署到RDS SQL Server。该DEMO程序设置一个简单的词库和分词逻辑,给定评论内容,将内容与词库中的词简单对比,得出情绪分。

DEMO程序 C# 代码如下:

public class SentimentAnalysis
{
   [SqlFunction(IsDeterministic = true, IsPrecise = true)]
   public static SqlDouble AnalyzeSentiment(SqlString text)
{
       if (text.IsNull)
           return SqlDouble.Null;

       var sentimentDictionary = InitializeSentimentDictionary();

       string input = text.Value.ToLower();
       double sentimentScore = 0;
       int wordCount = 0;
       int i = 0;

       while (i < input.Length)
       {
           bool matched = false;
           // 从当前位置开始尝试匹配词典中的最长词语
           foreach (var entry in sentimentDictionary.Keys.OrderByDescending(k => k.Length))
           {
               if (i + entry.Length <= input.Length && input.Substring(i, entry.Length) == entry)
               {
                   sentimentScore += sentimentDictionary[entry];
                   wordCount++;
                   i += entry.Length;  // 跳过已匹配的词语
                   matched = true;
                   break;
               }
           }

           // 如果没有匹配到词典中的词语,则跳过该字符
           if (!matched)
           {
               i++;
           }
       }

       return new SqlDouble(wordCount > 0 ? sentimentScore / wordCount : 0);
   }

   private static Dictionary<string, double> InitializeSentimentDictionary()
{
       return new Dictionary<string, double>
       {
           {“好”, 1.0}, {“喜欢”, 1.0}, {“优秀”, 1.0}, {“棒”, 1.0}, {“满意”, 0.8},
           {“不错”, 0.6}, {“还行”, 0.2}, {“一般”, 0},
           {“差”, -0.6}, {“糟糕”, -0.8}, {“失望”, -0.8}, {“烂”, -1.0}, {“讨厌”, -1.0}
       };
   }
}



三、将CLR程序集导入RDS SQL Server


导出CLR程序集为二进制字符串

数据库作为PaaS层程序,用户无法访问RDS SQL Server所在的操作系统,因此不能直接编译如下“创建程序集”的代码。我们可以先将C#的CLR代码编译为DLL,然后通过拥有OS访问权限的RDS SQL Server创建程序集,如下代码所示。


-- 创建程序集
CREATE ASSEMBLY [CLRFuncDemo]
FROM 'E:\Backup\CLRFuncDemo.dll'
WITH PERMISSION_SET = SAFE

接着,通过RDS SQL Server的导出功能,将该程序集导出为二进制字符串,如图2。



图2.将CLR程序集导出为二进制字符串


导入CLR程序集至RDS SQL Server

过拥有当前指定数据库DBO权限的用户连入RDS SQL Server,将导出的CLR程序集通过二进制的方式进行创建,如图3所示。

图3.导入程序集,并创建函数

在图4中,可以看到程序集与CLR函数已经被成功导入与创建。





图4.程序集与函数位置


测试CLR函数

下面我们通过一个简单的表测试数据,DEMO测试CLR函数的可用性,代码如下所示。


CREATE TABLE UserReviews (
   ReviewID INT IDENTITY(1,1) PRIMARY KEY,
   Username NVARCHAR(50),
   ProductName NVARCHAR(100),
   ReviewContent NVARCHAR(MAX),
   ReviewDate DATETIME
)

INSERT INTO UserReviews (Username,ProductName,ReviewContent,ReviewDate)
VALUES
   (‘Chen Qi’,‘Smartphone E’,N’这个手机太烂了,电池续航糟糕,我非常失望!‘,‘2024-03-25 13:00:00’),
   (‘Zhou Ba’,‘Laptop F’,N’体验非常差,散热不好,性能糟糕,不推荐!’,‘2024-03-26 14:30:00’),
   (‘Sun Jiu’,‘Headphones G’,N’音质太差了,这耳机真是糟糕透顶,让我很失望!‘,‘2024-03-27 16:10:00’),
   (‘Wu Shi’,‘Tablet H’,N’这个平板还行,性能一般,用起来也算可以.’,‘2024-03-28 10:00:00’),
   (‘Zhang Yi’,‘Smartphone I’,N’手机用起来一般,没有特别好,也没有特别差,算是中规中矩.‘,‘2024-03-29 11:20:00’),
 (‘Li Si’,‘Laptop B’,N’这个笔记本真的是优秀! 性能很棒,非常喜欢,满意极了!’,‘2024-03-20 09:15:00’),
   (‘Wang Wu’,‘Headphones C’,N’声音非常棒,材质很好,使用体验一流,我非常满意!‘,‘2024-03-22 11:00:00’),
   (‘Zhao Liu’,‘Tablet D’,N’这款平板真是不错,性能很强,续航也不错,我非常喜欢!’,‘2024-03-24 15:45:00’),
 (‘Wang Kang’,‘Smartphone K’,N’手机非常好用,拍照效果非常棒,我非常喜欢!',‘2024-03-31 12:05:00’);

SELECT
   ReviewID,
   Username,
   ProductName,
   ReviewContent,
   dbo.AnalyzeSentiment(ReviewContent) AS SentimentScore,
   CASE
       WHEN dbo.AnalyzeSentiment(ReviewContent) > 0.3 THEN ‘好评’
       WHEN dbo.AnalyzeSentiment(ReviewContent) < -0.3 THEN ‘差评’
       ELSE ‘中立’
   END AS SentimentCategory
FROM UserReviews
ORDER BY SentimentScore DESC

结果如图5所示,基本能够符合预期,通过提取评论中的关键字,确认当前的平均是好评或差评。






图5. CLR函数测试结果

四、其他安全问题

如果在 RDS SQL Server 中创建或修改 CLR 程序集 “CLRFuncDemo” 时遇到了以下错误:

消息 10343,级别 14,状态 1,第 12 行
针对带有 SAFE 或 EXTERNAL_ACCESS 选项的程序集“CLRFuncDemo”的 CREATE 或 ALTER ASSEMBLY 失败,因为 sp_configure 的“CLR 严格安全性”选项设置为 1。Microsoft 建议使用其相应登录名具有 UNSAFE ASSEMBLY 权限的证书或非对称密钥为该程序集签名。或者,也可以使用 sp_add_trusted_assembly 信任程序集。
这个报错是由于自动SQL Server 2017开始,微软对CLR集成的安全性做了更严格的限制,通过引入clr strict security选项,并将默认值设置为1,确保只有经过签名的程序集才能以安全级别(SAFE 或 EXTERNAL_ACCESS)进行加载。

如果希望解决该问题,尝试使用下面3种方法之一:


方法一:签名程序集并授予相应权限(微软推荐做法)

签名的作用本质上是让SQL Server确认发布者的身份,并与对应关联最小化权限,从而保证了CLR的安全。

整体过程相对较为复杂,具体操作步骤参考:

https://sqlquantumleap.com/2017/09/29/sqlclr-vs-sql-server-2017-part-6-trusted-assemblies-cant-do-module-signing/


方法二:使用 sp_add_trusted_assembly 信任程序集

sp_add_trusted_assembly 可以允许单独对程序集进行类似白名单豁免的操作,同时不需要改程序集进行签名。

但该方式同样较为复杂,且执行该存储过程需要SA权限,相比方法一,更不推荐。


方法三:禁用“clr strict security”选项

SQL Server作为PaaS服务,没有实例级的访问权限,因此不能通过默认的方式直接关闭clr strict security选项,一个可选的方案是通过RDS提供的超级管理员账号关闭该选项。

警告:禁用 clr strict security 会使所有 CLR 程序集以更高的权限运行,可能带来安全隐患。

我们可以通过控制台创建“超级权限账号”,该账号的权限视为sql server内置的sysadmin组权限,值得注意的是,就像经典台词所说:“能力越大,责任越大”,拥有SA权限后,RDS不再保障SLA,同时该操作是单行票,启用后无法关闭。



使用SA账号关闭clr strict security的SQL如下所示:

EXEC sp_configure 'show advanced options', 1;
RECONFIGURE;

EXEC sp_configure ‘clr strict security’, 0;
RECONFIGURE;

禁用该选项后,可以成功创建。

五、总结

CLR集成为SQL Server提供了强大的扩展能力,使开发人员能够利用.NET Framework的丰富功能来处理复杂的数据库任务。本文通过详细的步骤和实例演示了如何在阿里云RDS SQL Server中部署和使用CLR集成功能。

CLR的集成极大地拓展了SQL Server的应用场景。通过CLR,我们可以在SQL Server中实现T-SQL难以实现的业务场景,比如:

  1. 复杂字符串处理:例如利用.NET的正则表达式库,实现医疗病历文本解析、数据清洗等高级文本处理
  2. 高性能计算:例如处理金融领域的期权定价等复杂数学运算,发挥编译执行的性能优势
  3. 文件和网络操作:例如实现物流行业的自动化单据处理,支持跨系统数据交换
  4. 自定义加密解密:例如为银行业提供端到端加密方案,保护敏感数据安全
  5. 图像处理:例如支持零售行业的商品图片分析、质量检测等多媒体处理需求
  6. 机器学习集成:例如实现电商平台的实时商品推荐等智能分析功能
  7. 复杂业务逻辑:例如处理信用卡额度评估等多维度决策场景

使用CLR而不是在应用程序中实现上述功能, 从性能角度看,数据库端直接处理可以减少数据传输开销,提供更高的处理效率。从安全性来看,敏感数据的处理限制在数据库内部,能够有效降低风险。从维护角度考虑,业务逻辑集中存储便于统一管理和版本控制,同时支持多个应用系统共享相同的业务规则。

在实际项目中,T-SQL和应用程序层是实现业务功能的主要选择。T-SQL适合数据的查询、处理和基础业务逻辑,应用程序层则擅长处理复杂交互和业务流程。CLR并非要替代这两者,而是在特定场景下的一个补充选项。当我们遇到需要复杂字符串处理、高性能计算或者外部系统集成等场景,而T-SQL实现困难、放在应用程序层有性能、部署或安全层面的限制时,CLR可以作为一个补充方案。


凡是计算密集型的任务,使用CLR集成显然更好!尤其是一些不适合在应用层处理的高频复杂计算,CLR会大幅提高效率。同时对安全和维护的要求也都大大降低。

完全同意!实际上在大型应用中,往往需要T-SQL高效查询和CLR提供的扩展功能双管齐下,才能真正满足复杂业务需求。选择合适的工具,对开发者来说至关重要。

我觉得两者之间的结合可以说是相辅相成的。T-SQL适合简单查询和快速处理,而CLR则是在需要复杂计算和处理场景时的强大工具,将它们结合起来无疑可以发挥各自优点。

实际上,CLR集成的安全性是一个很重要的问题。微软对CLR安全性做了严格限制,可以通过签名程序集、使用trusted assembly或禁用clr strict security来解决。我认为第一种方法最推荐,虽然步骤复杂,但能保障安全。

维护安全性在使用CLR集成时非常重要!个人觉得把程序集签名是最保险的选项,这样即使有人非法使用,也能追责。不过,要是为了方便,可以选择trusted assembly,只是风险会大一些。

听说CLR在处理图像和文件时也很有效,在这些场景下用T-SQL实现往往太繁琐,而CLR提供的功能就像是为我们量身定做的解决方案。算是我个人的收藏秘诀!

个人认为CLR作为一种补充方案是非常明智的选择。特别是在面对高性能需求和复杂业务逻辑的问题时,借助CLR不仅能提升性能,还能让代码结构更清晰!

在安全性方面,我觉得使用超级管理员账号来关闭相关选项不是个好主意,虽然可以解决问题,但安全隐患太大。如果能坚持走签名的路子,那安全性会高很多!

我认为在需要处理复杂字符串或整个大型数据集时,CLR集成的高性能非常明显。比如,像机器学习和复杂逻辑处理,如果仅用T-SQL可能会遇到性能瓶颈,这时CLR的优势十分明显。