今天詳細(xì)詳細(xì)說(shuō)一下kettle 的安裝,安裝的版本:jdk:jdk-8u152-windows--x64kettle:KETTLE-5.4一、環(huán)境部署1、安裝JDK,按默認(rèn)值安裝即可2、設(shè)置環(huán)境變量,如圖下圖具體步驟:1.右擊我的電腦-屬性-高級(jí)系統(tǒng)...
今天詳細(xì)詳細(xì)說(shuō)一下kettle 的安裝,安裝的版本:
jdk:jdk-8u152-windows--x64
kettle:KETTLE-5.4
一、環(huán)境部署
具體步驟:1.右擊我的電腦-屬性-高級(jí)系統(tǒng)設(shè)置-環(huán)境變量-系統(tǒng)變量-新建2.變量名:JAVA_HOME3.變量值: JDK安裝目錄
二、資源庫(kù)
數(shù)據(jù)庫(kù):主機(jī)名稱(chēng):數(shù)據(jù)庫(kù)名稱(chēng):端口號(hào):賬號(hào):密碼:
賬號(hào):
密碼:
三、資源管理
四、方案開(kāi)發(fā)
步驟:1在組件組-輸入中找到組件-表輸入2.選擇數(shù)據(jù)庫(kù)連接(數(shù)據(jù)源)3.填寫(xiě)SQL語(yǔ)句,可預(yù)覽結(jié)果
步驟:1、在組件組-輸出中找到組件-表輸出2.建立表輸入和表輸出的連接3.選擇數(shù)據(jù)庫(kù)連接(數(shù)據(jù)倉(cāng)庫(kù))4.錄入目標(biāo)表名,指定數(shù)據(jù)庫(kù)字段5.獲取字段6.執(zhí)行SQL(建表)
*步驟:1在組件組-腳本中找到組件-執(zhí)行SQL腳本2.選擇數(shù)據(jù)庫(kù)連接(數(shù)據(jù)倉(cāng)庫(kù))#此處選擇必須謹(jǐn)慎,避免清理了數(shù)據(jù)源的數(shù)據(jù)3.填寫(xiě)SQL語(yǔ)句4.建立與表輸入的關(guān)系
*步驟:1在組件組-通用中找到組件-START(作業(yè)開(kāi)始,用于作業(yè)調(diào)度設(shè)置)2.在組件組-通用中找到組件-轉(zhuǎn)換(如有多個(gè)可以多次添加)3.通過(guò)引用指定轉(zhuǎn)換文件4.在組件組-通用中找到組件-成功(作業(yè)結(jié)束)5.按執(zhí)行順序建立組件間的關(guān)系
這樣就算你可以入門(mén)了,我相信在不斷的探索中你會(huì)有更多的心得的。在此也要提醒一點(diǎn),KETTLE的性能可能會(huì)有不穩(wěn)定的情況出現(xiàn),所以注意保存你已經(jīng)做過(guò)的東西。
更新:
很早之前寫(xiě)的文章,發(fā)現(xiàn)大家許多人想要下載安裝包,我就給大家把鏈接順便也找到了
jdk下載地址:
https://www.oracle.com/cn/java/technologies/javase/javase-jdk8-downloads.html
Kettle下載地址:
Pentaho from Hitachi Vantara - Browse /Data Integration at SourceForge.net
以為這就完了,no,再附加個(gè)人網(wǎng)盤(pán)地址:
kettle下載鏈接:
鏈接:https://pan.baidu.com/s/1tmFK1sdU7DDTT3YzoJVnwQ
提取碼:76yw
點(diǎn)擊下方鏈接,輸入上方提取碼即可
鏈接:https://pan.baidu.com/s/1tmFK1sdU7DDTT3YzoJVnwQ
升級(jí)版本:
最近由于需要連接clickhouse數(shù)據(jù)庫(kù),kettle目前的版本沒(méi)有clickhouse驅(qū)動(dòng),所以沒(méi)法連接,需要自定義插件,又重新安裝了kettle的9.2版本嘗試一下,應(yīng)該是比較新的了所以就把資源也更新一下,希望對(duì)你有幫助的小伙伴可以點(diǎn)贊支持。
由于kettle的連接中暫時(shí)沒(méi)有clickhouse插件,需要自己搞定,先看下官網(wǎng)提示:
https://help.hitachivantara.com/Documentation/Pentaho/8.1/Developer_Center/PDI/Extend/020
查找相關(guān)資料在githubs上找到源碼,連接如下:
https://github.com/aaa8210/kettle2clickhouse
上面是自己查找的一些資料,下面分享安裝包及插件:
kettle的9.2版本:
百度云鏈接如下(包含kettle安裝包、連接mysql驅(qū)動(dòng)和clickhouse插件):
https://pan.baidu.com/s/1CH5wYQjAxnuvOz-C0koO2w
提取碼:4sy0
鏈接:https://pan.baidu.com/s/1CH5wYQjAxnuvOz-C0koO2w
提取碼:4sy0
注:連接clickhouse版本kettle版本需要對(duì)應(yīng).
1、下載分享資源
2、解壓 kettle 安裝包后將驅(qū)動(dòng)包里的 clickhouse-plugins文件夾復(fù)制到 kettle 的 data-integration\plugins文件夾里
看一下clickhouse-plugins 里就是自定義的插件jar包
3、復(fù)制驅(qū)動(dòng)中的其余jar包
粘貼到 kettle 的 data-integration\libswt\win64 目錄下(根據(jù)自己的系統(tǒng)而定,我的是win64)
4、啟動(dòng)kettle,選擇新建連接就可以選擇Clickhouse了
目前感覺(jué)使用還不錯(cuò),雖然kettle自帶調(diào)度任務(wù),但是前提是保持kettle打開(kāi),并且作業(yè)和轉(zhuǎn)換在運(yùn)行狀態(tài),這個(gè)不太適用與遠(yuǎn)程服務(wù)器安裝windows客戶(hù)端,或者一些學(xué)習(xí)的同學(xué)可以在本地windows設(shè)置調(diào)度任務(wù)也可以,在linux上安裝部署kettle并調(diào)度是一個(gè)比較合適的方法。
參考如下步驟:
運(yùn)用crontab執(zhí)行kettle程序1.建立目錄存放kettle文件# mkdir /data/kettle/kettle_job // 存放作業(yè)文件# mkdir /data/kettle/kettle_transition // 存放轉(zhuǎn)換# mkdir /data/kettle/kettle_sh // 存放執(zhí)行腳本# mkdir /data/kettle/kettle_log // 存放執(zhí)行kettle產(chǎn)生的日志文件將從windows上配置好的.ktr和.kjb程序分別放在transition目錄和job目錄下(或linux下編寫(xiě)后直接保存到該目錄下),注意:job中的轉(zhuǎn)換對(duì)應(yīng)的目錄需要做相應(yīng)修改2:編寫(xiě)執(zhí)行腳本# cd /data/kettle/kettle_sh# vi ceshi.sh文本內(nèi)容如下:#!/bin/bash#執(zhí)行job程序cd /data/kettle/data-integrationexport JAVA_HOME=/usr/local/jdk1.8.0_201/export CLASSPATH=.:$JAVA_HOME/jre/lib/rt.jar:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jarexport PATH=$PATH:$JAVA_HOME/bin./kitchen.sh -file=/data/kettle/kettle_job/testjob.kjb >>/data/kettle/kettle_log/ceshi_$(date +%Y%m%d).log注:(因?yàn)閏rond是個(gè)守護(hù)進(jìn)程,它不歸屬于任何用戶(hù),雖然之前以root用戶(hù)配置了java環(huán)境變量,但是crond一樣找不到j(luò)ava命令,所以,當(dāng)crond執(zhí)行kettle任務(wù)時(shí),需要?jiǎng)討B(tài)設(shè)置java環(huán)境變量,否則會(huì)出現(xiàn)手動(dòng)執(zhí)行.sh沒(méi)問(wèn)題,放crontb里面執(zhí)行后無(wú)效果)保存ceshi.sh,執(zhí)行賦予執(zhí)行權(quán)限的命令# chmod +x ceshi.sh測(cè)試ceshi.sh是否可以正常執(zhí)行# sh -x ceshi.sh3:設(shè)定crontab 定時(shí)執(zhí)行任務(wù)# crontab -e*/1 * * * * /data/kettle/kettle_sh/ceshi.sh //每分鐘執(zhí)行一次ceshi.sh# systemctl restart crond# systemctl enable crond注意:在linux中,如果是通過(guò)圖形界面執(zhí)行程序的話,點(diǎn)擊那個(gè)綠色的三角即可。如果是命令行啟動(dòng),后臺(tái)執(zhí)行進(jìn)行進(jìn)程不能中斷。因此,在linux中不推薦使用kettle里面的自動(dòng)執(zhí)行,使用操作系統(tǒng)的定時(shí)執(zhí)行要穩(wěn)定的多。Windows下使用定時(shí)任務(wù)計(jì)劃,linux下使用crontab。/usr/share/java /data/java/jdk1.8.0_141/bin/java
這個(gè)版本使用還不錯(cuò),這樣做完調(diào)度在之后就可以了。
原文地址:https://blog.csdn.net/Jmayday/article/details/102860582
來(lái)源:本文內(nèi)容搜集或轉(zhuǎn)自各大網(wǎng)絡(luò)平臺(tái),并已注明來(lái)源、出處,如果轉(zhuǎn)載侵犯您的版權(quán)或非授權(quán)發(fā)布,請(qǐng)聯(lián)系小編,我們會(huì)及時(shí)審核處理。
聲明:江蘇教育黃頁(yè)對(duì)文中觀點(diǎn)保持中立,對(duì)所包含內(nèi)容的準(zhǔn)確性、可靠性或者完整性不提供任何明示或暗示的保證,不對(duì)文章觀點(diǎn)負(fù)責(zé),僅作分享之用,文章版權(quán)及插圖屬于原作者。
Copyright?2013-2024 JSedu114 All Rights Reserved. 江蘇教育信息綜合發(fā)布查詢(xún)平臺(tái)保留所有權(quán)利
蘇公網(wǎng)安備32010402000125
蘇ICP備14051488號(hào)-3技術(shù)支持:南京博盛藍(lán)睿網(wǎng)絡(luò)科技有限公司
南京思必達(dá)教育科技有限公司版權(quán)所有 百度統(tǒng)計(jì)