除了 DBLink 还有啥可以做跨库运算的

和DBLink原理类似的有Federated Database和Linked Server,这类数据库组件的配置都很复杂,而且大多数计算要先把数据取到本地,不能充分利用远程数据库的计算能力。Calcite是支持跨库运算的JAVA计算库,优点是配置简单,集成方便,代码开源,缺点是成熟度不高,很多计算函数都不支持。Scala是大数据计算语言,也有跨库运算的能力,优点是比较成熟,性能也不错,缺点是架构复杂沉重,代码繁琐冗长,数据超出内存时容易发生故障。

做跨库运算,SPL是个更好的选择。

SPL是开源的JAVA计算库,不仅架构轻便,配置简单,函数丰富,具有方便集成的JDBC接口,还可以充分利用数据库的计算能力,并稳定计算超出内存的数据。

SPL可以充分利用数据库的计算能力。远程数据库先执行SQL或存储过程,SPL再将数据量较小的计算结果取到本地,最后进行跨库运算。比如对MySQL和Oracle进行内关联:

A
1 =mysql1.query("select   SellerId, sum(Amount) subtotal from Orders group by SellerId")
2 =orcl.query("select   EId,Name from employees")
3 =join(A1:O,SellerId;   A2:E,EId).new(O.Name:name, O.Dept:dept, E.subtotal:amt)

SPL提供了丰富的计算函数,可以用简单直观的代码完成跨库后的计算。比如,跨库运算后按页取记录,其中p_Size和P_No是参数:

A
3 …//跨库运算
4 =A3.to(p_Size*(p_No-1),p_Size*p_No)

SPL提供了JDBC接口,方便被JAVA程序调用。比如将上面的算法存为SPL脚本文件,在JAVA中以存储过程的形式调用SPL:

…
Class.forName("com.esproc.jdbc.InternalDriver");
Connection conn =DriverManager.getConnection("jdbc:esproc:local://");
CallableStatement statement = conn.prepareCall("{call pageQuery(?, ?)}");
statement.setObject(1, 10);
statement.setObject(2, 3);
statement.execute();
...

再举几例:

A B
3
4 =A2.select(amt>1000   && like(dept,\"*S*\")) //查询
5 =A2.sort(dept,-amt)" //排序
6 =A2 .id(dept) //去重
7 =A2.groups(dept;sum(amt)) //分组汇总

 

对于超出内存的数据,SPL提供了游标机制,不仅代码简短,而且稳定可靠。比如,表Employees和Orders都是大表,分属不同的数据库,下面先跨库关联,再分组汇总:

A
1 =orcl.cursor("select EId, Dept from Employees order by EId")
2 =mysql1.cursor("select SellerId, Amount from Orders order by   SellerId")
3 =joinx(A2:O,SellerId; A1:E,EId)
4 =A3.groups(E.Dept;sum(O.Amount))

上面代码利用了有序归并进行关联,性能也更好。

 

对于多个同构的数据库,SPL支持分库间的跨库运算和语法精炼的并行计算:

A B C
1 =[connect("mysql1"),connect("mysql2"),
connect("mysql3")]
/连接多个mysql
2 select * from orders
where amount>=10000
/SQL
3 fork A1 =A3.query@x(A2) /并行执行SQL
4 =A3.conj() /合并结果

除了数据库,SPL也支持CSV/XLS等文件数据源和多种NoSQL,以及不同数据源/数据库之间的混合计算。