• 人大金仓分析型数据库外部表(二)


    外部表错误数据

             默认情况下,如果外部表数据中包含有一个错误,命令就会失败并且不会有数据被载入到目标数据库表中。gpfdist 文件服务器使用 HTTP 协议。使用 LIMIT的外部表查询会在检索到所需的
    行后结束连接,导致一个HTTP 套接字错误。 如果用户对使用 gpfdist:// http:// 协议的外部表使用带 LIMIT 的查询,请忽略这些错误 - 数据已经被按照预期返回给数据库。

     创建外部Web表 

            外部Web表允许数据库像处理常规数据表一样处理动态数据源。由于Web表数据可以在查询运行时更改,因此数据无法重新扫描。CREATE EXTERNAL WEB TABLE建立一个外部表的定义。你可以定义基于命令或基于URL的外部Web表。定义形式是不同的: 不能将基于命令的和基于URL的定义混在一起。

    基于命令外部Web

            一个shell命令或者脚本的输出可定义基于命令的Web表数据。将命令放在CREATE EXTERNAL WEB TABLEEXECUTE子句里。数据是命令运行时的最新数据。语句EXECUTE在指定的master实例节点上运行shell命令或脚本。命令和脚本必须存在于EXECUTE子句中定义的host上。命令默认会在当活跃节点上有输出的行要处理时。 例如,如果每个宿主机器上运行4个有输出行待处理的节点实例, 命令会在每个宿主机器上运行4次。 可以限制运行web表命令的节点实例数量。 所有在web表定义ON子句中的节点会并行运行命令。

            指定在外部表定义中的命令会从数据库运行,但不会从.bashrc或.profile 中加载环境变量。 在EXECUTE子句中设置环境变量。例如:

    1. =# CREATE EXTERNAL WEB TABLE output (output text)
    2. EXECUTE 'PATH=/home/gpadmin/programs; export PATH; myprogram.sh'
    3. FORMAT 'TEXT';

            脚本必须对于用户是可执行的,并且在master实例节点上路径相同。下面命令定义了一个运行脚本的web表。 脚本运行在有数据需要处理的节点上。

    1. =# CREATE EXTERNAL WEB TABLE log_output
    2. (linenum int, message text)
    3. EXECUTE '/var/load_scripts/get_log_data.sh' ON HOST
    4. FORMAT 'TEXT' (DELIMITER '|');

    基于URL外部Web表

            基于URL的web表从HTTP协议的服务器访问数据。 Web表数据是动态的,不可重新扫描的。在LOCATION里定义基于http://协议的web服务文件路径。 web数据文件必须存在于节点可访问的web服务器上。 指定的URL数量与并行访问web表的节点实例数量相关。 例如,如果为一个有8个节点的MPP数据库指定两个外部文件, 8个节点中的两个会在查询运行时并行访问web表。下面的例子定义了一个从多个URL获取数据的web表。

    1. =# CREATE EXTERNAL WEB TABLE ext_expenses (name text,
    2. date date, amount float4, category text, description text)
    3. LOCATION (
    4. 'http://intranet.company.com/expenses/sales/file.csv',
    5. 'http://intranet.company.com/expenses/exec/file.csv',
    6. 'http://intranet.company.com/expenses/finance/file.csv',
    7. 'http://intranet.company.com/expenses/ops/file.csv',
    8. 'http://intranet.company.com/expenses/marketing/file.csv',
    9. 'http://intranet.company.com/expenses/eng/file.csv'
    10. )
    11. FORMAT 'CSV' ( HEADER );
  • 相关阅读:
    如何使用iPhone15在办公室观看家里电脑上的4k电影?
    MATLAB在逐渐被Python淘汰吗?
    多个PDF发票合并实现一张A4纸打印2张电子/数电发票功能
    ip地址的正则表达式
    算法思想总结:双指针算法
    新产品如何推广?推广新产品的方法和技巧
    linux系统管理之磁盘分区及管理
    对Java初学者最好的建议
    应用程序主题研发有妙招!DevExtreme拥有多种预定义主题样式
    UE4 C++ 笔记(二):基础知识
  • 原文地址:https://blog.csdn.net/qq_27889005/article/details/133133557