Skip to content
项目
群组
代码片段
帮助
正在加载...
帮助
提交反馈
为 GitLab 提交贡献
登录
切换导航
L
label
项目
项目
详情
动态
版本
周期分析
仓库
仓库
文件
提交
分支
标签
贡献者
分支图
比较
统计图
成员
成员
收起侧边栏
Close sidebar
动态
分支图
统计图
提交
打开侧边栏
zhenxin.ma
label
提交
500cc55e
提交
500cc55e
编写于
9月 01, 2020
作者:
wuyunfeng
浏览文件
操作
浏览文件
下载
电子邮件补丁
差异文件
流量与时长统计0.9.4版本
上级
b98a80ff
变更
5
展开全部
隐藏空白字符变更
内嵌
并排
正在显示
5 个修改的文件
包含
965 行增加
和
522 行删除
+965
-522
MyConfigSession.scala
src/main/scala/com/config/MyConfigSession.scala
+11
-10
SessionProcessHeart.scala
src/main/scala/com/session/SessionProcessHeart.scala
+70
-45
SessionProcessPref.scala
src/main/scala/com/session/SessionProcessPref.scala
+400
-329
SessionProcessTerm.scala
src/main/scala/com/session/SessionProcessTerm.scala
+482
-137
Driver.scala
src/main/scala/com/utils/Driver.scala
+2
-1
未找到文件。
src/main/scala/com/config/MyConfigSession.scala
浏览文件 @
500cc55e
...
...
@@ -9,12 +9,14 @@ package com.config
*/
object
MyConfigSession
{
//Hive的DW层流量表
final
val
HIVE_TABLE0
:
String
=
"pica_dw.dw_fact_log_session_pref"
final
val
HIVE_TABLE1_TMP
:
String
=
"pica_dw.dw_fact_log_session_tmp"
final
val
HIVE_TABLE2_TMP
:
String
=
"pica_dw.dw_fact_log_session_path_tmp"
final
val
HIVE_TABLE1
:
String
=
"pica_dw.dw_fact_log_session"
final
val
HIVE_TABLE2
:
String
=
"pica_dw.dw_fact_log_session_path"
final
val
HIVE_TABLE3
:
String
=
"pica_dw.dw_fact_log_session_heart"
final
val
HIVE_TABLE4
:
String
=
"pica_dw.dw_fact_log_session_pref"
final
val
HIVE_TABLE4
:
String
=
"pica_dw.dw_fact_log_session_term"
final
val
HIVE_TABLE4_MID
:
String
=
"pica_dw.dw_fact_log_session_term_mid"
//写入的文件路径
final
val
PARQUET_PATH
:
String
=
"hdfs://bi-name1:8020/tmp/output/"
...
...
@@ -43,7 +45,7 @@ object MyConfigSession {
| from pica_log.picalog_trace_app_part
| where pseudo_session is not null and pseudo_session !=''
| and pseudo_id !='' and extra_info !='com.picahealth.patient' and serviceName != 'trace3'
| and
FROM_UNIXTIME(cast(substring(created,1,10) as bigint),'yyyy-MM-dd')=created_day and created is not null and created!=''
| and
created is not null and created!='' and FROM_UNIXTIME(cast(substring(created,1,10) as bigint),'yyyy-MM-dd')=created_day
"""
.
stripMargin
//从源表pica_log.picalog_trace_app_part中执行SQL获取源数据,这里获取昨天的
final
val
SOURCE_SQL
:
String
=
...
...
@@ -57,14 +59,13 @@ object MyConfigSession {
//从源表pica_log.picalog_trace_app_part中执行SQL获取源数据,输入指定日期参数时执行的SQL
final
val
SOURCE_SQL_ARGS
:
String
=
"""
|select pseudo_session,doctor_id,mobile,device_token,user_token_tourist,class_name,view_path,action,
|component_tag,app_version,device_type,device_brand,device_model,network_type,created from pica_log.picalog_trace_app_part
| where pseudo_session is not null and pseudo_session !=''
| and pseudo_id !='' and extra_info !='com.picahealth.patient' and serviceName != 'trace3'
| and created is not null and created!='' and `action`!='ACTION_EQUIP_INFO'
"""
.
stripMargin
final
val
SOURCE_SQL_FROM_PREF
:
String
=
s
"""
|select pseudo_session,cast(user_id_int as string) user_id,mobile,device_token,user_token , view_class ,view_path,action,action_type,
|component_tag,menu_code,action_code,`position`,label_value,label_class,app_version,device_type,device_brand,device_model,"" device_system,
|net_type,created_time,date_time from ${HIVE_TABLE0}
| where 1=1 and `action`!='ACTION_EQUIP_INFO'
"""
.
stripMargin
//从dw_fact_log_session表中筛选数据
...
...
src/main/scala/com/session/SessionProcessHeart.scala
浏览文件 @
500cc55e
此差异已折叠。
点击以展开。
src/main/scala/com/session/SessionProcessPref.scala
浏览文件 @
500cc55e
此差异已折叠。
点击以展开。
src/main/scala/com/session/SessionProcessTerm.scala
浏览文件 @
500cc55e
此差异已折叠。
点击以展开。
src/main/scala/com/utils/Driver.scala
浏览文件 @
500cc55e
package
com.utils
import
com.session.
{
SessionMenuCalc
,
SessionProcess
,
SessionProcessHeart
,
SessionProcessPath
,
SessionProcessPref
}
import
com.session.
{
SessionMenuCalc
,
SessionProcess
,
SessionProcessHeart
,
SessionProcessPath
,
SessionProcessPref
,
SessionProcessTerm
}
import
org.apache.hadoop.util.ProgramDriver
/**
...
...
@@ -16,6 +16,7 @@ object Driver {
driver
.
addClass
(
"SessionProcessHeart"
,
classOf
[
SessionProcessHeart
],
"用户Session数据分析导入到dw_fact_log_session_heart表"
)
driver
.
addClass
(
"SessionMenuCalc"
,
classOf
[
SessionMenuCalc
],
"传递日期参数--用户Session数据分析导入到dw_fact_log_session_menu_calc表"
)
driver
.
addClass
(
"SessionProcessPref"
,
classOf
[
SessionProcessPref
],
"传递日期参数--用户Session数据etl导入到dw_fact_log_sesson_pref表"
)
driver
.
addClass
(
"SessionProcessTerm"
,
classOf
[
SessionProcessTerm
],
"传递日期参数--用户Session数据etl导入到dw_fact_log_sesson_term表"
)
driver
.
run
(
args
)
}
}
写
预览
Markdown
格式
0%
请重试
or
附加一个文件
附加文件
取消
您添加了
0
人
到此讨论。请谨慎行事。
先完成此消息的编辑!
取消
想要评论请
注册
或
登录