|
一、關(guān)系運(yùn)算：1. 等值比較: = 語法：A=B 操作類型：所有基本類型 描述: 如果表達(dá)式A與表達(dá)式B相等，則為TRUE；否則為FALSE 舉例：hive>select 1 from lxw_dual where 1=1; 2. 不等值比較: <> 語法: A <> B 操作類型: 所有基本類型 描述: 如果表達(dá)式A為NULL，或者表達(dá)式B為NULL，返回NULL；如果表達(dá)式A與表達(dá)式B不相等，則為TRUE；否則為FALSE 舉例：hive> select1 from lxw_dual where 1 <> 2; 3. 小于比較: < 語法: A < B 操作類型: 所有基本類型 描述: 如果表達(dá)式A為NULL，或者表達(dá)式B為NULL，返回NULL；如果表達(dá)式A小于表達(dá)式B，則為TRUE；否則為FALSE 舉例：hive> select1 from lxw_dual where 1 < 2; 4. 小于等于比較: <= 語法: A <= B 操作類型: 所有基本類型 描述: 如果表達(dá)式A為NULL，或者表達(dá)式B為NULL，返回NULL；如果表達(dá)式A小于或者等于表達(dá)式B，則為TRUE；否則為FALSE 舉例：hive> select1 from lxw_dual where 1 <= 1; 5. 大于比較: > 語法: A > B 操作類型: 所有基本類型 描述: 如果表達(dá)式A為NULL，或者表達(dá)式B為NULL，返回NULL；如果表達(dá)式A大于表達(dá)式B，則為TRUE；否則為FALSE 舉例：hive> select1 from lxw_dual where 2 > 1; 6. 大于等于比較: >= 語法: A >= B 操作類型: 所有基本類型 描述: 如果表達(dá)式A為NULL，或者表達(dá)式B為NULL，返回NULL；如果表達(dá)式A大于或者等于表達(dá)式B，則為TRUE；否則為FALSE 舉例：hive> select1 from lxw_dual where 1 >= 1; 注意：String的比較要注意(常用的時(shí)間比較可以先to_date之后再比較) hive> select* from lxw_dual; OK 201111120900:00:00 2011111209 hive> selecta,b,a<b,a>b,a=b from lxw_dual; 201111120900:00:00 2011111209 false true false 7. 空值判斷: IS NULL 語法: A IS NULL 操作類型: 所有類型 描述: 如果表達(dá)式A的值為NULL，則為TRUE；否則為FALSE 舉例：hive> select1 from lxw_dual where null is null; 8. 非空判斷: IS NOTNULL 語法: A IS NOT NULL 操作類型: 所有類型 描述: 如果表達(dá)式A的值為NULL，則為FALSE；否則為TRUE 舉例：hive> select1 from lxw_dual where 1 is not null; 9. LIKE比較: LIKE 語法: A LIKE B 操作類型: strings 描述: 如果字符串A或者字符串B為NULL，則返回NULL；如果字符串A符合表達(dá)式B 的正則語法，則為TRUE；否則為FALSE。B中字符”_”表示任意單個(gè)字符，而字符”%”表示任意數(shù)量的字符。 舉例：hive> select1 from lxw_dual where 'football' like 'foot%'; hive> select1 from lxw_dual where 'football' like 'foot____'; 注意：否定比較時(shí)候用NOT A LIKE B hive> select1 from lxw_dual where NOT 'football' like 'fff%'; 10. JAVA的LIKE操作: RLIKE 語法: A RLIKE B 操作類型: strings 描述: 如果字符串A或者字符串B為NULL，則返回NULL；如果字符串A符合JAVA正則表達(dá)式B的正則語法，則為TRUE；否則為FALSE。 舉例：hive> select1 from lxw_dual where 'footbar’ rlike '^f.*r$’; 注意：判斷一個(gè)字符串是否全為數(shù)字： hive>select 1from lxw_dual where '123456' rlike '^\\d+$'; hive> select1 from lxw_dual where '123456aa' rlike '^\\d+$';
語法: A REGEXP B 操作類型: strings 描述: 功能與RLIKE相同 舉例： hive> select1 from lxw_dual where 'footbar' REGEXP '^f.*r$'; 二、數(shù)學(xué)運(yùn)算：1. 加法操作: + 語法: A + B 操作類型：所有數(shù)值類型 說明：返回A與B相加的結(jié)果。結(jié)果的數(shù)值類型等于A的類型和B的類型的最小父類型（詳見數(shù)據(jù)類型的繼承關(guān)系）。比如，int + int 一般結(jié)果為int類型，而int + double 一般結(jié)果為double類型 舉例：hive> select1 + 9 from lxw_dual; hive> createtable lxw_dual as select 1 + 1.2 from lxw_dual; hive>describe lxw_dual; 2. 減法操作: - 語法: A – B 操作類型：所有數(shù)值類型 說明：返回A與B相減的結(jié)果。結(jié)果的數(shù)值類型等于A的類型和B的類型的最小父類型（詳見數(shù)據(jù)類型的繼承關(guān)系）。比如，int – int 一般結(jié)果為int類型，而int – double 一般結(jié)果為double類型 舉例：hive> select10 – 5 from lxw_dual; hive> createtable lxw_dual as select 5.6 – 4 from lxw_dual; hive>describe lxw_dual; 3. 乘法操作: * 語法: A * B 操作類型：所有數(shù)值類型 說明：返回A與B相乘的結(jié)果。結(jié)果的數(shù)值類型等于A的類型和B的類型的最小父類型（詳見數(shù)據(jù)類型的繼承關(guān)系）。注意，如果A乘以B的結(jié)果超過默認(rèn)結(jié)果類型的數(shù)值范圍，則需要通過cast將結(jié)果轉(zhuǎn)換成范圍更大的數(shù)值類型 舉例：hive> select40 * 5 from lxw_dual; 4. 除法操作: / 語法: A / B 操作類型：所有數(shù)值類型 說明：返回A除以B的結(jié)果。結(jié)果的數(shù)值類型為double 舉例： hive> select40 / 5 from lxw_dual; 注意：hive中最高精度的數(shù)據(jù)類型是double,只精確到小數(shù)點(diǎn)后16位，在做除法運(yùn)算的時(shí)候要特別注意 hive>select ceil(28.0/6.999999999999999999999) from lxw_duallimit 1; 結(jié)果為4 hive>select ceil(28.0/6.99999999999999) from lxw_dual limit1; 結(jié)果為5 5. 取余操作: % 語法: A % B 操作類型：所有數(shù)值類型 說明：返回A除以B的余數(shù)。結(jié)果的數(shù)值類型等于A的類型和B的類型的最小父類型（詳見數(shù)據(jù)類型的繼承關(guān)系）。 舉例：hive> select 41 % 5 from lxw_dual; hive> select 8.4 % 4 from lxw_dual; 0.40000000000000036 注意：精度在hive中是個(gè)很大的問題，類似這樣的操作最好通過round指定精度 hive> select round(8.4 % 4 , 2) from lxw_dual; 6. 位與操作: & 語法: A & B 操作類型：所有數(shù)值類型 說明：返回A和B按位進(jìn)行與操作的結(jié)果。結(jié)果的數(shù)值類型等于A的類型和B的類型的最小父類型（詳見數(shù)據(jù)類型的繼承關(guān)系）。 舉例：hive> select 4 & 8 from lxw_dual; hive> select 6 & 4 from lxw_dual; 7. 位或操作: | 語法: A | B 操作類型：所有數(shù)值類型 說明：返回A和B按位進(jìn)行或操作的結(jié)果。結(jié)果的數(shù)值類型等于A的類型和B的類型的最小父類型（詳見數(shù)據(jù)類型的繼承關(guān)系）。 舉例： hive> select 4 | 8 from lxw_dual; hive> select 6 | 8 from lxw_dual; 8. 位異或操作: ^ 語法: A ^ B 操作類型：所有數(shù)值類型 說明：返回A和B按位進(jìn)行異或操作的結(jié)果。結(jié)果的數(shù)值類型等于A的類型和B的類型的最小父類型（詳見數(shù)據(jù)類型的繼承關(guān)系）。 舉例： hive> select 4 ^ 8 from lxw_dual; hive> select 6 ^ 4 from lxw_dual; 9．位取反操作: ~ 語法: ~A 操作類型：所有數(shù)值類型 說明：返回A按位取反操作的結(jié)果。結(jié)果的數(shù)值類型等于A的類型。 舉例： hive> select ~6 from lxw_dual; hive> select ~4 from lxw_dual; 三、邏輯運(yùn)算： 1. 邏輯與操作: AND 語法: A AND B 操作類型：boolean 說明：如果A和B均為TRUE，則為TRUE；否則為FALSE。如果A為NULL或B為NULL，則為NULL 舉例： hive> select 1 from lxw_dual where 1=1 and 2=2; 2. 邏輯或操作: OR 語法: A OR B 操作類型：boolean 說明：如果A為TRUE，或者B為TRUE，或者A和B均為TRUE，則為TRUE；否則為FALSE 舉例： hive> select 1 from lxw_dual where 1=2 or 2=2; 3. 邏輯非操作: NOT 語法: NOT A 操作類型：boolean 說明：如果A為FALSE，或者A為NULL，則為TRUE；否則為FALSE 舉例： hive> select 1 from lxw_dual where not 1=2; 四、數(shù)值計(jì)算1. 取整函數(shù): round 語法: round(double a) 返回值: BIGINT 說明: 返回double類型的整數(shù)值部分（遵循四舍五入） 舉例： hive> select round(3.1415926) from lxw_dual; hive> select round(3.5) from lxw_dual; hive> create table lxw_dual as select round(9542.158) fromlxw_dual; hive> describe lxw_dual; 2. 指定精度取整函數(shù): round 語法: round(double a, int d) 返回值: DOUBLE 說明: 返回指定精度d的double類型 舉例： hive> select round(3.1415926,4) from lxw_dual; 3.1416 3. 向下取整函數(shù): floor 語法: floor(double a) 返回值: BIGINT 說明: 返回等于或者小于該double變量的最大的整數(shù) 舉例： hive> select floor(3.1415926) from lxw_dual; hive> select floor(25) from lxw_dual; 4. 向上取整函數(shù): ceil 語法: ceil(double a) 返回值: BIGINT 說明: 返回等于或者大于該double變量的最小的整數(shù) 舉例： hive> select ceil(3.1415926) from lxw_dual; hive> select ceil(46) from lxw_dual; 5. 向上取整函數(shù): ceiling 語法: ceiling(double a) 返回值: BIGINT 說明: 與ceil功能相同 舉例： hive> select ceiling(3.1415926) from lxw_dual; hive> select ceiling(46) from lxw_dual; 6. 取隨機(jī)數(shù)函數(shù): rand 語法: rand(),rand(int seed) 返回值: double 說明: 返回一個(gè)0到1范圍內(nèi)的隨機(jī)數(shù)。如果指定種子seed，則會(huì)等到一個(gè)穩(wěn)定的隨機(jī)數(shù)序列 舉例： hive> select rand() from lxw_dual; 0.5577432776034763 hive> select rand() from lxw_dual; 0.6638336467363424 hive> select rand(100) from lxw_dual; 0.7220096548596434 hive> select rand(100) from lxw_dual; 0.7220096548596434 7. 自然指數(shù)函數(shù): exp 語法: exp(double a) 返回值: double 說明: 返回自然對(duì)數(shù)e的a次方 舉例： hive> select exp(2) from lxw_dual; 7.38905609893065 自然對(duì)數(shù)函數(shù): ln 語法: ln(double a) 返回值: double 說明: 返回a的自然對(duì)數(shù) 舉例： hive> select ln(7.38905609893065) from lxw_dual; 8. 以10為底對(duì)數(shù)函數(shù): log10 語法: log10(double a) 返回值: double 說明: 返回以10為底的a的對(duì)數(shù) 舉例： hive> select log10(100) from lxw_dual; 9. 以2為底對(duì)數(shù)函數(shù): log2 語法: log2(double a) 返回值: double 說明: 返回以2為底的a的對(duì)數(shù) 舉例： hive> select log2(8) from lxw_dual; 10. 對(duì)數(shù)函數(shù): log 語法: log(double base, double a) 返回值: double 說明: 返回以base為底的a的對(duì)數(shù) 舉例： hive> select log(4,256) from lxw_dual; 11. 冪運(yùn)算函數(shù): pow 語法: pow(double a, double p) 返回值: double 說明: 返回a的p次冪 舉例： hive> select pow(2,4) from lxw_dual; 12. 冪運(yùn)算函數(shù): power 語法: power(double a, double p) 返回值: double 說明: 返回a的p次冪,與pow功能相同 舉例： hive> select power(2,4) from lxw_dual; 13. 開平方函數(shù): sqrt 語法: sqrt(double a) 返回值: double 說明: 返回a的平方根 舉例： hive> select sqrt(16) from lxw_dual; 14. 二進(jìn)制函數(shù): bin 語法: bin(BIGINT a) 返回值: string 說明: 返回a的二進(jìn)制代碼表示 舉例： hive> select bin(7) from lxw_dual; 15. 十六進(jìn)制函數(shù): hex 語法: hex(BIGINT a) 返回值: string 說明: 如果變量是int類型，那么返回a的十六進(jìn)制表示；如果變量是string類型，則返回該字符串的十六進(jìn)制表示 舉例： hive> select hex(17) from lxw_dual; hive> select hex('abc’) from lxw_dual; 16. 反轉(zhuǎn)十六進(jìn)制函數(shù): unhex 語法: unhex(string a) 返回值: string 說明: 返回該十六進(jìn)制字符串所代碼的字符串 舉例： hive> select unhex('616263’)from lxw_dual; abc hive> select unhex('11’)from lxw_dual; - hive> select unhex(616263) from lxw_dual; abc 17. 進(jìn)制轉(zhuǎn)換函數(shù): conv 語法: conv(BIGINT num, int from_base, int to_base) 返回值: string 說明: 將數(shù)值num從from_base進(jìn)制轉(zhuǎn)化到to_base進(jìn)制 舉例： hive> select conv(17,10,16) from lxw_dual; 11 hive> select conv(17,10,2) from lxw_dual; 10001 18. 絕對(duì)值函數(shù): abs 語法: abs(double a) abs(int a) 返回值: double int 說明: 返回?cái)?shù)值a的絕對(duì)值 舉例： hive> select abs(-3.9) from lxw_dual; 3.9 hive> select abs(10.9) from lxw_dual; 10.9
語法: pmod(int a, int b),pmod(double a, double b) 返回值: int double 說明: 返回正的a除以b的余數(shù) 舉例： hive> select pmod(9,4) from lxw_dual; 1 hive> select pmod(-9,4) from lxw_dual; 3 20. 正弦函數(shù): sin 語法: sin(double a) 返回值: double 說明: 返回a的正弦值 舉例： hive> select sin(0.8) from lxw_dual; 0.7173560908995228 21. 反正弦函數(shù): asin 語法: asin(double a) 返回值: double 說明: 返回a的反正弦值 舉例： hive> select asin(0.7173560908995228) from lxw_dual; 0.8 22. 余弦函數(shù): cos 語法: cos(double a) 返回值: double 說明: 返回a的余弦值 舉例： hive> select cos(0.9) from lxw_dual; 0.6216099682706644 23. 反余弦函數(shù): acos 語法: acos(double a) 返回值: double 說明: 返回a的反余弦值 舉例： hive> select acos(0.6216099682706644) from lxw_dual; 0.9 24. positive函數(shù): positive 語法: positive(int a), positive(double a) 返回值: int double 說明: 返回a 舉例： hive> select positive(-10) from lxw_dual; -10 hive> select positive(12) from lxw_dual; 12 25. negative函數(shù): negative 語法: negative(int a), negative(double a) 返回值: int double 說明: 返回-a 舉例： hive> select negative(-5) from lxw_dual; 5 hive> select negative(8) from lxw_dual; -8 五、日期函數(shù)1. UNIX時(shí)間戳轉(zhuǎn)日期函數(shù):from_unixtime 語法: from_unixtime(bigint unixtime[, string format]) 返回值: string 說明: 轉(zhuǎn)化UNIX時(shí)間戳（從1970-01-01 00:00:00 UTC到指定時(shí)間的秒數(shù)）到當(dāng)前時(shí)區(qū)的時(shí)間格式 舉例： hive> select from_unixtime(1323308943,'yyyyMMdd') from lxw_dual; 20111208 2. 獲取當(dāng)前UNIX時(shí)間戳函數(shù):unix_timestamp 語法: unix_timestamp() 返回值: bigint 說明: 獲得當(dāng)前時(shí)區(qū)的UNIX時(shí)間戳 舉例： hive> select unix_timestamp() from lxw_dual; 1323309615 3. 日期轉(zhuǎn)UNIX時(shí)間戳函數(shù):unix_timestamp 語法: unix_timestamp(string date) 返回值: bigint 說明: 轉(zhuǎn)換格式為"yyyy-MM-ddHH:mm:ss"的日期到UNIX時(shí)間戳。如果轉(zhuǎn)化失敗，則返回0。 舉例： hive> select unix_timestamp('2011-12-07 13:01:03') from lxw_dual; 1323234063 4. 指定格式日期轉(zhuǎn)UNIX時(shí)間戳函數(shù):unix_timestamp 語法: unix_timestamp(string date, string pattern) 返回值: bigint 說明: 轉(zhuǎn)換pattern格式的日期到UNIX時(shí)間戳。如果轉(zhuǎn)化失敗，則返回0。 舉例： hive> select unix_timestamp('20111207 13:01:03','yyyyMMddHH:mm:ss') from lxw_dual; 1323234063 5. 日期時(shí)間轉(zhuǎn)日期函數(shù):to_date 語法: to_date(string timestamp) 返回值: string 說明: 返回日期時(shí)間字段中的日期部分。 舉例： hive> select to_date('2011-12-08 10:03:01') from lxw_dual; 2011-12-08 6. 日期轉(zhuǎn)年函數(shù): year 語法: year(string date) 返回值: int 說明: 返回日期中的年。 舉例： hive> select year('2011-12-08 10:03:01') from lxw_dual; 2011 hive> select year('2012-12-08')from lxw_dual; 2012 7. 日期轉(zhuǎn)月函數(shù): month 語法: month (string date) 返回值: int 說明: 返回日期中的月份。 舉例： hive> select month('2011-12-08 10:03:01') from lxw_dual; 12 hive> select month('2011-08-08')from lxw_dual; 8 8. 日期轉(zhuǎn)天函數(shù): day 語法: day (string date) 返回值: int 說明: 返回日期中的天。 舉例： hive> select day('2011-12-08 10:03:01') from lxw_dual; 8 hive> select day('2011-12-24')from lxw_dual; 24 9. 日期轉(zhuǎn)小時(shí)函數(shù): hour 語法: hour (string date) 返回值: int 說明: 返回日期中的小時(shí)。 舉例： hive> select hour('2011-12-08 10:03:01') from lxw_dual; 10 10. 日期轉(zhuǎn)分鐘函數(shù): minute 語法: minute (string date) 返回值: int 說明: 返回日期中的分鐘。 舉例： hive> select minute('2011-12-08 10:03:01') from lxw_dual; 3 11. 日期轉(zhuǎn)秒函數(shù): second 語法: second (string date) 返回值: int 說明: 返回日期中的秒。 舉例： hive> select second('2011-12-08 10:03:01') from lxw_dual; 1 12. 日期轉(zhuǎn)周函數(shù):weekofyear 語法: weekofyear (string date) 返回值: int 說明: 返回日期在當(dāng)前的周數(shù)。 舉例： hive> select weekofyear('2011-12-08 10:03:01') from lxw_dual; 49 13. 日期比較函數(shù): datediff 語法: datediff(string enddate, string startdate) 返回值: int 說明: 返回結(jié)束日期減去開始日期的天數(shù)。 舉例： hive> select datediff('2012-12-08','2012-05-09')from lxw_dual; 213 14. 日期增加函數(shù): date_add 語法: date_add(string startdate, int days) 返回值: string 說明: 返回開始日期startdate增加days天后的日期。 舉例： hive> select date_add('2012-12-08',10)from lxw_dual; 2012-12-18 15. 日期減少函數(shù): date_sub 語法: date_sub (string startdate, int days) 返回值: string 說明: 返回開始日期startdate減少days天后的日期。 舉例： hive> select date_sub('2012-12-08',10)from lxw_dual; 2012-11-28 六、條件函數(shù)1. If函數(shù): if 語法: if(boolean testCondition, T valueTrue, T valueFalseOrNull) 返回值: T 說明: 當(dāng)條件testCondition為TRUE時(shí)，返回valueTrue；否則返回valueFalseOrNull 舉例： hive> select if(1=2,100,200) from lxw_dual; 200 hive> select if(1=1,100,200) from lxw_dual; 100 2. 非空查找函數(shù): COALESCE 語法: COALESCE(T v1, T v2, …) 返回值: T 說明: 返回參數(shù)中的第一個(gè)非空值；如果所有值都為NULL，那么返回NULL 舉例： hive> select COALESCE(null,'100','50′) from lxw_dual; 100
語法: CASE a WHEN b THEN c [WHEN d THEN e]* [ELSE f] END 返回值: T 說明：如果a等于b，那么返回c；如果a等于d，那么返回e；否則返回f 舉例： hive> Select case 100 when 50 then 'tom' when 100 then 'mary'else 'tim' end from lxw_dual; mary hive> Select case 200 when 50 then 'tom' when 100 then 'mary'else 'tim' end from lxw_dual; tim
語法: CASE WHEN a THEN b [WHEN c THEN d]* [ELSE e] END 返回值: T 說明：如果a為TRUE,則返回b；如果c為TRUE，則返回d；否則返回e 舉例： hive> select case when 1=2 then 'tom' when 2=2 then 'mary' else'tim' end from lxw_dual; mary hive> select case when 1=1 then 'tom' when 2=2 then 'mary' else'tim' end from lxw_dual; tom
語法: length(string A) 返回值: int 說明：返回字符串A的長度 舉例： hive> select length('abcedfg') from lxw_dual; 7
語法: reverse(string A) 返回值: string 說明：返回字符串A的反轉(zhuǎn)結(jié)果 舉例： hive> select reverse(abcedfg’) from lxw_dual; gfdecba
語法: concat(string A, string B…) 返回值: string 說明：返回輸入字符串連接后的結(jié)果，支持任意個(gè)輸入字符串 舉例： hive> select concat('abc’,'def’,'gh’) from lxw_dual; abcdefgh
語法: concat_ws(string SEP, string A, string B…) 返回值: string 說明：返回輸入字符串連接后的結(jié)果，SEP表示各個(gè)字符串間的分隔符 舉例： hive> select concat_ws(',','abc','def','gh') from lxw_dual; abc,def,gh
語法: substr(string A, int start),substring(string A, int start) 返回值: string 說明：返回字符串A從start位置到結(jié)尾的字符串 舉例： hive> select substr('abcde',3) from lxw_dual; cde hive> select substring('abcde',3) from lxw_dual; cde hive> selectsubstr('abcde',-1) from lxw_dual; （和ORACLE相同） e
語法: substr(string A, int start, int len),substring(string A, intstart, int len) 返回值: string 說明：返回字符串A從start位置開始，長度為len的字符串 舉例： hive> select substr('abcde',3,2) from lxw_dual; cd hive> select substring('abcde',3,2) from lxw_dual; cd hive>select substring('abcde',-2,2) from lxw_dual; de
語法: upper(string A) ucase(string A) 返回值: string 說明：返回字符串A的大寫格式 舉例： hive> select upper('abSEd') from lxw_dual; ABSED hive> select ucase('abSEd') from lxw_dual; ABSED
語法: lower(string A) lcase(string A) 返回值: string 說明：返回字符串A的小寫格式 舉例： hive> select lower('abSEd') from lxw_dual; absed hive> select lcase('abSEd') from lxw_dual; absed
語法: trim(string A) 返回值: string 說明：去除字符串兩邊的空格 舉例： hive> select trim(' abc ') from lxw_dual; abc
語法: ltrim(string A) 返回值: string 說明：去除字符串左邊的空格 舉例： hive> select ltrim(' abc ') from lxw_dual; abc
語法: rtrim(string A) 返回值: string 說明：去除字符串右邊的空格 舉例： hive> select rtrim(' abc ') from lxw_dual; abc
語法: regexp_replace(string A, string B, string C) 返回值: string 說明：將字符串A中的符合java正則表達(dá)式B的部分替換為C。注意，在有些情況下要使用轉(zhuǎn)義字符,類似oracle中的regexp_replace函數(shù)。 舉例： hive> select regexp_replace('foobar', 'oo|ar', '') from lxw_dual; fb
語法: regexp_extract(string subject, string pattern, int index) 返回值: string 說明：將字符串subject按照pattern正則表達(dá)式的規(guī)則拆分，返回index指定的字符。 舉例： hive> select regexp_extract('foothebar', 'foo(.*?)(bar)', 1) fromlxw_dual; the hive> select regexp_extract('foothebar', 'foo(.*?)(bar)', 2) fromlxw_dual; bar hive> select regexp_extract('foothebar', 'foo(.*?)(bar)', 0) fromlxw_dual; foothebar 注意，在有些情況下要使用轉(zhuǎn)義字符，下面的等號(hào)要用雙豎線轉(zhuǎn)義，這是java正則表達(dá)式的規(guī)則。 select data_field, regexp_extract(data_field,'.*?bgStart\\=([^&]+)',1) as aaa, regexp_extract(data_field,'.*?contentLoaded_headStart\\=([^&]+)',1) as bbb, regexp_extract(data_field,'.*?AppLoad2Req\\=([^&]+)',1) as ccc from pt_nginx_loginlog_st where pt = '2012-03-26'limit 2;
語法: parse_url(string urlString, string partToExtract [, stringkeyToExtract]) 返回值: string 說明：返回URL中指定的部分。partToExtract的有效值為：HOST, PATH, QUERY, REF, PROTOCOL, AUTHORITY, FILE, and USERINFO. 舉例： hive> selectparse_url('http:///path1/p.php?k1=v1&k2=v2#Ref1', 'HOST') fromlxw_dual; hive> selectparse_url('http:///path1/p.php?k1=v1&k2=v2#Ref1', 'QUERY','k1') from lxw_dual; v1 15. json解析函數(shù)：get_json_object 語法: get_json_object(string json_string, string path) 返回值: string 說明：解析json的字符串json_string,返回path指定的內(nèi)容。如果輸入的json字符串無效，那么返回NULL。 舉例： hive> select get_json_object('{"store": > {"fruit":\[{"weight":8,"type":"apple"},{"weight":9,"type":"pear"}], > "bicycle":{"price":19.95,"color":"red"} > }, > "email":"amy@only_for_json_udf_test.net", > "owner":"amy" > } > ','$.owner') from lxw_dual; amy
語法: space(int n) 返回值: string 說明：返回長度為n的字符串 舉例： hive> select space(10) from lxw_dual; hive> select length(space(10)) from lxw_dual; 10
語法: repeat(string str, int n) 返回值: string 說明：返回重復(fù)n次后的str字符串 舉例： hive> select repeat('abc',5) from lxw_dual; abcabcabcabcabc
語法: ascii(string str) 返回值: int 說明：返回字符串str第一個(gè)字符的ascii碼 舉例： hive> select ascii('abcde') from lxw_dual; 97
語法: lpad(string str, int len, string pad) 返回值: string 說明：將str進(jìn)行用pad進(jìn)行左補(bǔ)足到len位 舉例： hive> select lpad('abc',10,'td') from lxw_dual; tdtdtdtabc 注意：與GP，ORACLE不同，pad 不能默認(rèn)
語法: rpad(string str, int len, string pad) 返回值: string 說明：將str進(jìn)行用pad進(jìn)行右補(bǔ)足到len位 舉例： hive> select rpad('abc',10,'td') from lxw_dual; abctdtdtdt
語法: split(string str, stringpat) 返回值: array 說明: 按照pat字符串分割str，會(huì)返回分割后的字符串?dāng)?shù)組 舉例： hive> select split('abtcdtef','t') from lxw_dual; ["ab","cd","ef"]
語法: find_in_set(string str, string strList) 返回值: int 說明: 返回str在strlist第一次出現(xiàn)的位置，strlist是用逗號(hào)分割的字符串。如果沒有找該str字符，則返回0 舉例： hive> select find_in_set('ab','ef,ab,de') from lxw_dual; 2 hive> select find_in_set('at','ef,ab,de') from lxw_dual; 0
語法: count(*), count(expr), count(DISTINCT expr[, expr_.]) 返回值: int 說明: count(*)統(tǒng)計(jì)檢索出的行的個(gè)數(shù)，包括NULL值的行；count(expr)返回指定字段的非空值的個(gè)數(shù)；count(DISTINCTexpr[, expr_.])返回指定字段的不同的非空值的個(gè)數(shù) 舉例： hive> select count(*) from lxw_dual; 20 hive> select count(distinct t) from lxw_dual; 10
語法: sum(col), sum(DISTINCT col) 返回值: double 說明: sum(col)統(tǒng)計(jì)結(jié)果集中col的相加的結(jié)果；sum(DISTINCT col)統(tǒng)計(jì)結(jié)果中col不同值相加的結(jié)果 舉例： hive> select sum(t) from lxw_dual; 100 hive> select sum(distinct t) from lxw_dual; 70
語法: avg(col), avg(DISTINCT col) 返回值: double 說明: avg(col)統(tǒng)計(jì)結(jié)果集中col的平均值；avg(DISTINCT col)統(tǒng)計(jì)結(jié)果中col不同值相加的平均值 舉例： hive> select avg(t) from lxw_dual; 50 hive> select avg (distinct t) from lxw_dual; 30
語法: min(col) 返回值: double 說明: 統(tǒng)計(jì)結(jié)果集中col字段的最小值 舉例： hive> select min(t) from lxw_dual; 20
語法: maxcol) 返回值: double 說明: 統(tǒng)計(jì)結(jié)果集中col字段的最大值 舉例： hive> select max(t) from lxw_dual; 120
語法: var_pop(col) 返回值: double 說明: 統(tǒng)計(jì)結(jié)果集中col非空集合的總體變量（忽略null） 舉例：
語法: var_samp (col) 返回值: double 說明: 統(tǒng)計(jì)結(jié)果集中col非空集合的樣本變量（忽略null） 舉例：
語法: stddev_pop(col) 返回值: double 說明: 該函數(shù)計(jì)算總體標(biāo)準(zhǔn)偏離，并返回總體變量的平方根，其返回值與VAR_POP函數(shù)的平方根相同 舉例：
語法: stddev_samp (col) 返回值: double 說明: 該函數(shù)計(jì)算樣本標(biāo)準(zhǔn)偏離 舉例：
語法: percentile(BIGINT col, p) 返回值: double 說明: 求準(zhǔn)確的第pth個(gè)百分位數(shù)，p必須介于0和1之間，但是col字段目前只支持整數(shù)，不支持浮點(diǎn)數(shù)類型 舉例：
語法: percentile(BIGINT col, array(p1 [, p2]…)) 返回值: array<double> 說明: 功能和上述類似，之后后面可以輸入多個(gè)百分位數(shù)，返回類型也為array<double>，其中為對(duì)應(yīng)的百分位數(shù)。 舉例： select percentile(score,<0.2,0.4>) from lxw_dual；取0.2，0.4位置的數(shù)據(jù)
語法: percentile_approx(DOUBLE col, p [, B]) 返回值: double 說明: 求近似的第pth個(gè)百分位數(shù)，p必須介于0和1之間，返回類型為double，但是col字段支持浮點(diǎn)類型。參數(shù)B控制內(nèi)存消耗的近似精度，B越大，結(jié)果的準(zhǔn)確度越高。默認(rèn)為10,000。當(dāng)col字段中的distinct值的個(gè)數(shù)小于B時(shí)，結(jié)果為準(zhǔn)確的百分位數(shù) 舉例： 13. 近似中位數(shù)函數(shù):percentile_approx 語法: percentile_approx(DOUBLE col, array(p1 [, p2]…) [, B]) 返回值: array<double> 說明: 功能和上述類似，之后后面可以輸入多個(gè)百分位數(shù)，返回類型也為array<double>，其中為對(duì)應(yīng)的百分位數(shù)。 舉例：
語法: histogram_numeric(col, b) 返回值: array<struct {'x’,'y’}> 說明: 以b為基準(zhǔn)計(jì)算col的直方圖信息。 舉例： hive> select histogram_numeric(100,5) from lxw_dual; [{"x":100.0,"y":1.0}]
語法: map (key1, value1, key2, value2, …) 說明：根據(jù)輸入的key和value對(duì)構(gòu)建map類型 舉例： hive> Create table lxw_test as select map('100','tom','200','mary')as t from lxw_dual; hive> describe lxw_test; t map<string,string> hive> select t from lxw_test; {"100":"tom","200":"mary"}
語法: struct(val1, val2, val3, …) 說明：根據(jù)輸入的參數(shù)構(gòu)建結(jié)構(gòu)體struct類型 舉例： hive> create table lxw_test as select struct('tom','mary','tim')as t from lxw_dual; hive> describe lxw_test; t struct<col1:string,col2:string,col3:string> hive> select t from lxw_test; {"col1":"tom","col2":"mary","col3":"tim"}
語法: array(val1, val2, …) 說明：根據(jù)輸入的參數(shù)構(gòu)建數(shù)組array類型 舉例： hive> create table lxw_test as selectarray("tom","mary","tim") as t from lxw_dual; hive> describe lxw_test; t array<string> hive> select t from lxw_test; ["tom","mary","tim"]
語法: A[n] 操作類型: A為array類型，n為int類型 說明：返回?cái)?shù)組A中的第n個(gè)變量值。數(shù)組的起始下標(biāo)為0。比如，A是個(gè)值為['foo', 'bar']的數(shù)組類型，那么A[0]將返回'foo',而A[1]將返回'bar' 舉例： hive> create table lxw_test as selectarray("tom","mary","tim") as t from lxw_dual; hive> select t[0],t[1],t[2] from lxw_test; tom mary tim
語法: M[key] 操作類型: M為map類型，key為map中的key值 說明：返回map類型M中，key值為指定值的value值。比如，M是值為{'f' -> 'foo', 'b'-> 'bar', 'all' -> 'foobar'}的map類型，那么M['all']將會(huì)返回'foobar' 舉例： hive> Create table lxw_test as selectmap('100','tom','200','mary') as t from lxw_dual; hive> select t['200'],t['100'] from lxw_test; mary tom
語法: S.x 操作類型: S為struct類型 說明：返回結(jié)構(gòu)體S中的x字段。比如，對(duì)于結(jié)構(gòu)體struct foobar {int foo, int bar}，foobar.foo返回結(jié)構(gòu)體中的foo字段 舉例： hive> create table lxw_test as select struct('tom','mary','tim')as t from lxw_dual; hive> describe lxw_test; t struct<col1:string,col2:string,col3:string> hive> select t.col1,t.col3 from lxw_test; tom tim
語法: size(Map<K.V>) 返回值: int 說明: 返回map類型的長度 舉例： hive> select size(map('100','tom','101','mary')) from lxw_dual; 2
語法: size(Array<T>) 返回值: int 說明: 返回array類型的長度 舉例： hive> select size(array('100','101','102','103')) from lxw_dual; 4
類型轉(zhuǎn)換函數(shù): cast 語法: cast(expr as <type>) 返回值: Expected "=" to follow "type" 說明: 返回array類型的長度 舉例： hive> select cast(1 as bigint) from lxw_dual;
|
|
|
