MRS Hive SQL
更新時間 2023-07-18 18:21:40
最近更新時間: 2023-07-18 18:21:40
分享文章
本章節主要介紹節點參考的MRS Hive SQL。
功能
通過MRS Hive SQL節點執行數據開發模塊中預先定義的Hive SQL腳本。
參數
用戶可參考下表配置MRS Hive SQL節點的參數。
屬性參數
| 參數 | 是否必選 | 說明 |
|---|---|---|
| SQL腳本 | 是 | 選擇需要執行的腳本。如果腳本未創建,請參考新建腳本和開發SQL腳本先創建和開發腳本。 |
| 數據連接 | 是 | 默認選擇SQL腳本中設置的數據連接,支持修改。 |
| 數據庫 | 是 | 默認選擇SQL腳本中設置的數據庫,支持修改。 |
| 腳本參數 | 否 | 關聯的SQL腳本如果使用了參數,此處顯示參數名稱,請在參數名稱后的輸入框配置參數值。參數值支持使用表達式概述。若關聯的SQL腳本,腳本參數發生變化,可單擊刷新按鈕 同步。 |
| 運行程序參數 | 否 | 為本次執行的作業配置相關優化參數(例如線程、內存、CPU核數等),用于優化資源使用效率,提升作業的執行性能 說明 若集群為MRS 1.8.7版本或MRS 2.0.1之后版本,需要配置此參數。MRS SparkSQL作業的運行程序參數,請參見《MapReduce用戶指南》中的“管理現有集群 > 作業管理 > 運行SparkSql作業 ”。 |
| 節點名稱 | 是 | 默認顯示為SQL腳本的名稱,支持修改。節點名稱只能由字母、數字、中劃線和下劃線組成,并且長度為1~64個字符。 說明 節點名稱不得包含中文字符、超出長度限制等。如果節點名稱不符合規則,將導致提交MRS作業失敗。 |
高級參數
| 參數 | 是否必選 | 說明 |
|---|---|---|
| 節點狀態輪詢時間(秒) | 是 | 設置輪詢時間(1~60秒),每隔x秒查詢一次節點是否執行完成。 |
| 節點執行的最長時間 | 是 | 設置節點執行的超時時間,如果節點配置了重試,在超時時間內未執行完成,該節點將不會再重試,直接置為失敗狀態。 |
| 失敗重試 | 是 | 節點執行失敗后,是否重新執行節點。 是:重新執行節點,請配置以下參數。 ? 最大重試次數 ? 重試間隔時間(秒) 否:默認值,不重新執行節點。 說明 如果作業節點配置了重試,并且配置了超時時間,該節點執行超時后將不會再重試,直接置為失敗狀態。 |
| 失敗策略 | 是 | 節點執行失敗后的操作: 終止當前作業執行計劃:停止當前作業運行,當前作業實例狀態顯示為“失敗”。 繼續執行下一節點:忽略當前節點失敗,當前作業實例狀態顯示為“忽略失敗成功”。 掛起當前作業執行計劃:暫停當前作業運行,當前作業實例狀態顯示為“等待運行”。 終止后續節點執行計劃:停止后續節點的運行,當前作業實例狀態顯示為“失敗”。 |
| 空跑 | 否 | 如果勾選了空跑,該節點不會實際執行,將直接返回成功。 |
血緣關系
| 參數 | 說明 |
|---|---|
| 輸入 | |
| 新建 | 單擊“新建”,在“類型”的下拉選項中選擇要新建的類型。可以選擇DWS,OBS,CSS,HIVE,CUSTOM和DLI類型。 DWS ? 連接名稱(必選):單擊 ![]() ,在彈出的“連接名稱”窗口選擇DWS的數據連接。? 數據庫(必選):單擊 ![]() ,在彈出的“數據庫”窗口選擇DWS的數據庫。? schema(必選):單擊 ![]() ,在彈出的“schema”窗口選擇DWS的數據庫模式。? 表名(必選):單擊 ![]() ,在彈出的“表名”窗口選擇DWS的數據表。OBS ? 路徑(必選):單擊 ![]() ,在彈出的“OBS文件瀏覽”窗口選擇OBS路徑。CSS ? 集群名稱(必選):單擊 ![]() ,在彈出的“CloudSearch集群”窗口選擇CloudSearch集群。? 索引名稱(必選):輸入CSS類型的索引名稱。 HIVE ? 連接名稱(必選):單擊 ![]() ,在彈出的“連接名稱”窗口選擇HIVE的數據連接。? 數據庫(必選):單擊 ![]() ,在彈出的“數據庫”窗口選擇HIVE的數據庫。? 表名(必選):單擊 ![]() ,在彈出的“表名”窗口選擇HIVE的數據表。CUSTOM ? 名稱(必選):輸入CUSTOM類型的名稱。 ? 屬性(必選):輸入CUSTOM類型的屬性,可新增不止一條。 DLI ? 連接名稱(必選):單擊 ![]() ,在彈出的“連接名稱”窗口選擇DLI的數據連接。? 數據庫(必選):單擊 ![]() ,在彈出的“數據庫”窗口選擇DLI的數據庫。? 表名(必選):單擊 ,在彈出的“表名”窗口選擇DLI的數據表。 |
| 確定 | 單擊“確認”,保存節點輸入功能的參數配置。 |
| 取消 | 單擊“取消”,取消節點輸入功能的參數配置。 |
| 編輯 | 單擊![]() ,修改節點輸入功能的參數配置,修改完成后,請保存。 |
| 刪除 | 單擊![]() ,刪除節點輸入功能的參數配置。 |
| 查看表詳情 | 單擊![]() ,查看節點輸入血緣關系創建數據表的詳細信息。 |
| 輸出 | |
| 新建 | 單擊“新建”,在“類型”的下拉選項中選擇要新建的類型。可以選擇DWS,OBS,CSS,HIVE,CUSTOM和DLI類型。 DWS ? 連接名稱(必選):單擊 ![]() ,在彈出的“連接名稱”窗口選擇DWS的數據連接。? 數據庫(必選):單擊 ![]() ,在彈出的“數據庫”窗口選擇DWS的數據庫。? schema(必選):單擊 ![]() ,在彈出的“schema”窗口選擇DWS的數據庫模式。? 表名(必選):單擊 ![]() ,在彈出的“表名”窗口選擇DWS的數據表。OBS ? 路徑(必選):單擊 ![]() ,在彈出的“OBS文件瀏覽”窗口選擇OBS路徑。CSS ? 集群名稱(必選):單擊 ![]() ,在彈出的“CloudSearch集群”窗口選擇CloudSearch集群。? 索引名稱(必選):輸入CSS類型的索引名稱。 HIVE ? 連接名稱(必選):單擊 ![]() ,在彈出的“連接名稱”窗口選擇HIVE的數據連接。? 數據庫(必選):單擊 ![]() ,在彈出的“數據庫”窗口選擇HIVE的數據庫。? 表名(必選):單擊 ![]() ,在彈出的“表名”窗口選擇HIVE的數據表。CUSTOM ? 名稱(必選):輸入CUSTOM類型的名稱。 ? 屬性(必選):輸入CUSTOM類型的屬性,可新增不止一條。 DLI ? 連接名稱(必選):單擊 ![]() ,在彈出的“連接名稱”窗口選擇DLI的數據連接。? 數據庫(必選):單擊 ![]() ,在彈出的“數據庫”窗口選擇DLI的數據庫。? 表名(必選):單擊 ![]() ,在彈出的“表名”窗口選擇DLI的數據表。 |
| 確定 | 單擊“確認”,保存節點輸出功能的參數配置。 |
| 取消 | 單擊“取消”,取消節點輸出功能的參數配置。 |
| 編輯 | 單擊![]() ,修改節點輸出功能的參數配置,修改完成后,請保存。 |
| 刪除 | 單擊![]() ,刪除節點輸出功能的參數配置。 |
| 查看表詳情 | 單擊![]() ,查看節點輸出血緣關系創建數據表的詳細信息。 |
同步。
,在彈出的“連接名稱”窗口選擇DWS的數據連接。
,在彈出的“數據庫”窗口選擇DWS的數據庫。
,在彈出的“schema”窗口選擇DWS的數據庫模式。
,在彈出的“表名”窗口選擇DWS的數據表。
,在彈出的“OBS文件瀏覽”窗口選擇OBS路徑。
,在彈出的“CloudSearch集群”窗口選擇CloudSearch集群。
,在彈出的“連接名稱”窗口選擇HIVE的數據連接。
,在彈出的“數據庫”窗口選擇HIVE的數據庫。
,在彈出的“表名”窗口選擇HIVE的數據表。
,在彈出的“連接名稱”窗口選擇DLI的數據連接。
,在彈出的“數據庫”窗口選擇DLI的數據庫。
,在彈出的“表名”窗口選擇DLI的數據表。
,修改節點輸入功能的參數配置,修改完成后,請保存。
,刪除節點輸入功能的參數配置。
,查看節點輸入血緣關系創建數據表的詳細信息。
,在彈出的“連接名稱”窗口選擇DWS的數據連接。
,在彈出的“數據庫”窗口選擇DWS的數據庫。
,在彈出的“schema”窗口選擇DWS的數據庫模式。
,在彈出的“表名”窗口選擇DWS的數據表。
,在彈出的“OBS文件瀏覽”窗口選擇OBS路徑。
,在彈出的“CloudSearch集群”窗口選擇CloudSearch集群。
,在彈出的“連接名稱”窗口選擇HIVE的數據連接。
,在彈出的“數據庫”窗口選擇HIVE的數據庫。
,在彈出的“表名”窗口選擇HIVE的數據表。
,在彈出的“連接名稱”窗口選擇DLI的數據連接。
,在彈出的“數據庫”窗口選擇DLI的數據庫。
,在彈出的“表名”窗口選擇DLI的數據表。
,修改節點輸出功能的參數配置,修改完成后,請保存。
,刪除節點輸出功能的參數配置。
,查看節點輸出血緣關系創建數據表的詳細信息。