Skip to content
项目
群组
代码片段
帮助
正在加载...
帮助
提交反馈
为 GitLab 提交贡献
登录
切换导航
L
label
项目
项目
详情
动态
版本
周期分析
仓库
仓库
文件
提交
分支
标签
贡献者
分支图
比较
统计图
成员
成员
收起侧边栏
Close sidebar
动态
分支图
统计图
提交
打开侧边栏
zhenxin.ma
label
提交
500cc55e
提交
500cc55e
编写于
9月 01, 2020
作者:
wuyunfeng
浏览文件
操作
浏览文件
下载
电子邮件补丁
差异文件
流量与时长统计0.9.4版本
上级
b98a80ff
变更
5
展开全部
隐藏空白字符变更
内嵌
并排
正在显示
5 个修改的文件
包含
965 行增加
和
522 行删除
+965
-522
MyConfigSession.scala
src/main/scala/com/config/MyConfigSession.scala
+11
-10
SessionProcessHeart.scala
src/main/scala/com/session/SessionProcessHeart.scala
+70
-45
SessionProcessPref.scala
src/main/scala/com/session/SessionProcessPref.scala
+400
-329
SessionProcessTerm.scala
src/main/scala/com/session/SessionProcessTerm.scala
+482
-137
Driver.scala
src/main/scala/com/utils/Driver.scala
+2
-1
未找到文件。
src/main/scala/com/config/MyConfigSession.scala
浏览文件 @
500cc55e
...
@@ -9,12 +9,14 @@ package com.config
...
@@ -9,12 +9,14 @@ package com.config
*/
*/
object
MyConfigSession
{
object
MyConfigSession
{
//Hive的DW层流量表
//Hive的DW层流量表
final
val
HIVE_TABLE0
:
String
=
"pica_dw.dw_fact_log_session_pref"
final
val
HIVE_TABLE1_TMP
:
String
=
"pica_dw.dw_fact_log_session_tmp"
final
val
HIVE_TABLE1_TMP
:
String
=
"pica_dw.dw_fact_log_session_tmp"
final
val
HIVE_TABLE2_TMP
:
String
=
"pica_dw.dw_fact_log_session_path_tmp"
final
val
HIVE_TABLE2_TMP
:
String
=
"pica_dw.dw_fact_log_session_path_tmp"
final
val
HIVE_TABLE1
:
String
=
"pica_dw.dw_fact_log_session"
final
val
HIVE_TABLE1
:
String
=
"pica_dw.dw_fact_log_session"
final
val
HIVE_TABLE2
:
String
=
"pica_dw.dw_fact_log_session_path"
final
val
HIVE_TABLE2
:
String
=
"pica_dw.dw_fact_log_session_path"
final
val
HIVE_TABLE3
:
String
=
"pica_dw.dw_fact_log_session_heart"
final
val
HIVE_TABLE3
:
String
=
"pica_dw.dw_fact_log_session_heart"
final
val
HIVE_TABLE4
:
String
=
"pica_dw.dw_fact_log_session_pref"
final
val
HIVE_TABLE4
:
String
=
"pica_dw.dw_fact_log_session_term"
final
val
HIVE_TABLE4_MID
:
String
=
"pica_dw.dw_fact_log_session_term_mid"
//写入的文件路径
//写入的文件路径
final
val
PARQUET_PATH
:
String
=
"hdfs://bi-name1:8020/tmp/output/"
final
val
PARQUET_PATH
:
String
=
"hdfs://bi-name1:8020/tmp/output/"
...
@@ -43,7 +45,7 @@ object MyConfigSession {
...
@@ -43,7 +45,7 @@ object MyConfigSession {
| from pica_log.picalog_trace_app_part
| from pica_log.picalog_trace_app_part
| where pseudo_session is not null and pseudo_session !=''
| where pseudo_session is not null and pseudo_session !=''
| and pseudo_id !='' and extra_info !='com.picahealth.patient' and serviceName != 'trace3'
| and pseudo_id !='' and extra_info !='com.picahealth.patient' and serviceName != 'trace3'
| and
FROM_UNIXTIME(cast(substring(created,1,10) as bigint),'yyyy-MM-dd')=created_day and created is not null and created!=''
| and
created is not null and created!='' and FROM_UNIXTIME(cast(substring(created,1,10) as bigint),'yyyy-MM-dd')=created_day
"""
.
stripMargin
"""
.
stripMargin
//从源表pica_log.picalog_trace_app_part中执行SQL获取源数据,这里获取昨天的
//从源表pica_log.picalog_trace_app_part中执行SQL获取源数据,这里获取昨天的
final
val
SOURCE_SQL
:
String
=
final
val
SOURCE_SQL
:
String
=
...
@@ -57,14 +59,13 @@ object MyConfigSession {
...
@@ -57,14 +59,13 @@ object MyConfigSession {
//从源表pica_log.picalog_trace_app_part中执行SQL获取源数据,输入指定日期参数时执行的SQL
//从源表pica_log.picalog_trace_app_part中执行SQL获取源数据,输入指定日期参数时执行的SQL
final
val
SOURCE_SQL_ARGS
:
String
=
final
val
SOURCE_SQL_FROM_PREF
:
String
=
"""
s
"""
|select pseudo_session,doctor_id,mobile,device_token,user_token_tourist,class_name,view_path,action,
|select pseudo_session,cast(user_id_int as string) user_id,mobile,device_token,user_token , view_class ,view_path,action,action_type,
|component_tag,app_version,device_type,device_brand,device_model,network_type,created from pica_log.picalog_trace_app_part
|component_tag,menu_code,action_code,`position`,label_value,label_class,app_version,device_type,device_brand,device_model,"" device_system,
| where pseudo_session is not null and pseudo_session !=''
|net_type,created_time,date_time from ${HIVE_TABLE0}
| and pseudo_id !='' and extra_info !='com.picahealth.patient' and serviceName != 'trace3'
| where 1=1 and `action`!='ACTION_EQUIP_INFO'
| and created is not null and created!='' and `action`!='ACTION_EQUIP_INFO'
"""
.
stripMargin
"""
.
stripMargin
//从dw_fact_log_session表中筛选数据
//从dw_fact_log_session表中筛选数据
...
...
src/main/scala/com/session/SessionProcessHeart.scala
浏览文件 @
500cc55e
此差异已折叠。
点击以展开。
src/main/scala/com/session/SessionProcessPref.scala
浏览文件 @
500cc55e
此差异已折叠。
点击以展开。
src/main/scala/com/session/SessionProcessTerm.scala
浏览文件 @
500cc55e
此差异已折叠。
点击以展开。
src/main/scala/com/utils/Driver.scala
浏览文件 @
500cc55e
package
com.utils
package
com.utils
import
com.session.
{
SessionMenuCalc
,
SessionProcess
,
SessionProcessHeart
,
SessionProcessPath
,
SessionProcessPref
}
import
com.session.
{
SessionMenuCalc
,
SessionProcess
,
SessionProcessHeart
,
SessionProcessPath
,
SessionProcessPref
,
SessionProcessTerm
}
import
org.apache.hadoop.util.ProgramDriver
import
org.apache.hadoop.util.ProgramDriver
/**
/**
...
@@ -16,6 +16,7 @@ object Driver {
...
@@ -16,6 +16,7 @@ object Driver {
driver
.
addClass
(
"SessionProcessHeart"
,
classOf
[
SessionProcessHeart
],
"用户Session数据分析导入到dw_fact_log_session_heart表"
)
driver
.
addClass
(
"SessionProcessHeart"
,
classOf
[
SessionProcessHeart
],
"用户Session数据分析导入到dw_fact_log_session_heart表"
)
driver
.
addClass
(
"SessionMenuCalc"
,
classOf
[
SessionMenuCalc
],
"传递日期参数--用户Session数据分析导入到dw_fact_log_session_menu_calc表"
)
driver
.
addClass
(
"SessionMenuCalc"
,
classOf
[
SessionMenuCalc
],
"传递日期参数--用户Session数据分析导入到dw_fact_log_session_menu_calc表"
)
driver
.
addClass
(
"SessionProcessPref"
,
classOf
[
SessionProcessPref
],
"传递日期参数--用户Session数据etl导入到dw_fact_log_sesson_pref表"
)
driver
.
addClass
(
"SessionProcessPref"
,
classOf
[
SessionProcessPref
],
"传递日期参数--用户Session数据etl导入到dw_fact_log_sesson_pref表"
)
driver
.
addClass
(
"SessionProcessTerm"
,
classOf
[
SessionProcessTerm
],
"传递日期参数--用户Session数据etl导入到dw_fact_log_sesson_term表"
)
driver
.
run
(
args
)
driver
.
run
(
args
)
}
}
}
}
写
预览
Markdown
格式
0%
请重试
or
附加一个文件
附加文件
取消
您添加了
0
人
到此讨论。请谨慎行事。
先完成此消息的编辑!
取消
想要评论请
注册
或
登录