h*i
2 楼
曹雪芹说女儿是水做的骨肉,男人是泥做的骨肉。
于是有一天我对一娘娘腔说那你就是水泥做的,
他回答我说:“胡说,老娘市处女座的!”
于是有一天我对一娘娘腔说那你就是水泥做的,
他回答我说:“胡说,老娘市处女座的!”
h*i
3 楼
AI startup, B2B2C.
后端是Clojure写的一个大型Web app,比metabase大很多,核心是我发明的一个语言,
跑在几个比较大的结点上,前面用一个小的nginx结点来分配任务,因为web app是
stateful的,所以是根据IP hash来分配的,保证同一个结点为同一个用户服务。
用两种数据库,Postgres用来存用户信息,可以删,满足法律要求;操作信息用
Datomic存,只加不删,ACID,与Clojure无缝衔接, Datomic是用一个couchbase集群
作存储的,水平扩展,分布管理都较容易,基本不管。
Web app后面有比web app结点多很多的ML计算结点,这些都是python写的。他们与Web
app的链接,快的计算用Flask提供http同步访问,Clojure Web app自己分配任务; 慢
的计算用Kafka 集群作异步中介,分工到各个计算结点。python and Kafka don't
play well together, such a pain in the ass. Do not recommend.
前端ClojureScript,re-frame用于B2B用户界面,比较复杂,rum用于B2C用户界面,比
较简单,二者都是包装React的.可视化用百度的echart.
前后端用GraphQL连。GraphQL服务器用WalmartLab的库,GraphQL也是我们的公开API,
所以别人的客户端也能连上来,比如mobile啥的。GraphQL subscription跑在
Websocket里面,可以push信息到客户端。
云是AWS和GCP都用,但基本不用他们的独特服务。CI/CD用Jenkins管理动态的集群。
后端是Clojure写的一个大型Web app,比metabase大很多,核心是我发明的一个语言,
跑在几个比较大的结点上,前面用一个小的nginx结点来分配任务,因为web app是
stateful的,所以是根据IP hash来分配的,保证同一个结点为同一个用户服务。
用两种数据库,Postgres用来存用户信息,可以删,满足法律要求;操作信息用
Datomic存,只加不删,ACID,与Clojure无缝衔接, Datomic是用一个couchbase集群
作存储的,水平扩展,分布管理都较容易,基本不管。
Web app后面有比web app结点多很多的ML计算结点,这些都是python写的。他们与Web
app的链接,快的计算用Flask提供http同步访问,Clojure Web app自己分配任务; 慢
的计算用Kafka 集群作异步中介,分工到各个计算结点。python and Kafka don't
play well together, such a pain in the ass. Do not recommend.
前端ClojureScript,re-frame用于B2B用户界面,比较复杂,rum用于B2C用户界面,比
较简单,二者都是包装React的.可视化用百度的echart.
前后端用GraphQL连。GraphQL服务器用WalmartLab的库,GraphQL也是我们的公开API,
所以别人的客户端也能连上来,比如mobile啥的。GraphQL subscription跑在
Websocket里面,可以push信息到客户端。
云是AWS和GCP都用,但基本不用他们的独特服务。CI/CD用Jenkins管理动态的集群。
e*o
5 楼
赞
你这个得好多人才能搞定吧?能否谈一下大致多少人开发了多久?
你这个得好多人才能搞定吧?能否谈一下大致多少人开发了多久?
w*s
6 楼
9/20
w*m
7 楼
看样子Clojure就是一个router?干活的还是python和javascript
q*w
8 楼
我不懂变态是什么意思。这个是我的记录(属于传说中的变态了吗?):
Review Information:
External Peer Review began on 10/16/13
Proposal Status
Status As of Today Dated: 11/20/13
This proposal is currently being considered by the above Program.
Consideration of proposals usually requires up to six months.
Review Information:
External Peer Review began on 10/16/13
Proposal Status
Status As of Today Dated: 11/20/13
This proposal is currently being considered by the above Program.
Consideration of proposals usually requires up to six months.
n*3
9 楼
so the clojure web service will feed and get result back from python/ML
part ?
here we are researching what will be the best architecture to communicate
between
clojure based real time
system and the ML part which using python. ideally everything in clojure
/clojurescript will
be great, but not every ML/DS guy will like to play with clojure.. and
clojure ML /MXNET is
not so mature yet..
Web
【在 h*i 的大作中提到】
: AI startup, B2B2C.
: 后端是Clojure写的一个大型Web app,比metabase大很多,核心是我发明的一个语言,
: 跑在几个比较大的结点上,前面用一个小的nginx结点来分配任务,因为web app是
: stateful的,所以是根据IP hash来分配的,保证同一个结点为同一个用户服务。
: 用两种数据库,Postgres用来存用户信息,可以删,满足法律要求;操作信息用
: Datomic存,只加不删,ACID,与Clojure无缝衔接, Datomic是用一个couchbase集群
: 作存储的,水平扩展,分布管理都较容易,基本不管。
: Web app后面有比web app结点多很多的ML计算结点,这些都是python写的。他们与Web
: app的链接,快的计算用Flask提供http同步访问,Clojure Web app自己分配任务; 慢
: 的计算用Kafka 集群作异步中介,分工到各个计算结点。python and Kafka don't
part ?
here we are researching what will be the best architecture to communicate
between
clojure based real time
system and the ML part which using python. ideally everything in clojure
/clojurescript will
be great, but not every ML/DS guy will like to play with clojure.. and
clojure ML /MXNET is
not so mature yet..
Web
【在 h*i 的大作中提到】
: AI startup, B2B2C.
: 后端是Clojure写的一个大型Web app,比metabase大很多,核心是我发明的一个语言,
: 跑在几个比较大的结点上,前面用一个小的nginx结点来分配任务,因为web app是
: stateful的,所以是根据IP hash来分配的,保证同一个结点为同一个用户服务。
: 用两种数据库,Postgres用来存用户信息,可以删,满足法律要求;操作信息用
: Datomic存,只加不删,ACID,与Clojure无缝衔接, Datomic是用一个couchbase集群
: 作存储的,水平扩展,分布管理都较容易,基本不管。
: Web app后面有比web app结点多很多的ML计算结点,这些都是python写的。他们与Web
: app的链接,快的计算用Flask提供http同步访问,Clojure Web app自己分配任务; 慢
: 的计算用Kafka 集群作异步中介,分工到各个计算结点。python and Kafka don't
h*w
10 楼
我连Review Information都没有,就个7月收到的信息,真够悲惨的.
【在 q****w 的大作中提到】
: 我不懂变态是什么意思。这个是我的记录(属于传说中的变态了吗?):
: Review Information:
: External Peer Review began on 10/16/13
: Proposal Status
: Status As of Today Dated: 11/20/13
: This proposal is currently being considered by the above Program.
: Consideration of proposals usually requires up to six months.
【在 q****w 的大作中提到】
: 我不懂变态是什么意思。这个是我的记录(属于传说中的变态了吗?):
: Review Information:
: External Peer Review began on 10/16/13
: Proposal Status
: Status As of Today Dated: 11/20/13
: This proposal is currently being considered by the above Program.
: Consideration of proposals usually requires up to six months.
g*t
11 楼
一边是几秒就会出结果的类似于增删查改的服务。另一边你把它想成NP hard那种,想
快也快不起来的python甚至matlab服务。
两边如何协调是很麻烦的。因为问题的提交和定义是在增删查改那边。这是个核心问题
。八仙过海,各显神通吧。就算jvm有了numpy,gpu支持等,也照样有这个问题。
这个不是语言问题。全python后端一样有这个问题。
例如你做个给大型仓库搬箱子工人的路径指导的手机app。很容易就NP hard了。
用队列提交CPU bound任务,取结果是一个办法。
clojure
【在 n*****3 的大作中提到】
: so the clojure web service will feed and get result back from python/ML
: part ?
: here we are researching what will be the best architecture to communicate
: between
: clojure based real time
: system and the ML part which using python. ideally everything in clojure
: /clojurescript will
: be great, but not every ML/DS guy will like to play with clojure.. and
: clojure ML /MXNET is
: not so mature yet..
快也快不起来的python甚至matlab服务。
两边如何协调是很麻烦的。因为问题的提交和定义是在增删查改那边。这是个核心问题
。八仙过海,各显神通吧。就算jvm有了numpy,gpu支持等,也照样有这个问题。
这个不是语言问题。全python后端一样有这个问题。
例如你做个给大型仓库搬箱子工人的路径指导的手机app。很容易就NP hard了。
用队列提交CPU bound任务,取结果是一个办法。
clojure
【在 n*****3 的大作中提到】
: so the clojure web service will feed and get result back from python/ML
: part ?
: here we are researching what will be the best architecture to communicate
: between
: clojure based real time
: system and the ML part which using python. ideally everything in clojure
: /clojurescript will
: be great, but not every ML/DS guy will like to play with clojure.. and
: clojure ML /MXNET is
: not so mature yet..
d*u
12 楼
这个不算吧。
【在 q****w 的大作中提到】
: 我不懂变态是什么意思。这个是我的记录(属于传说中的变态了吗?):
: Review Information:
: External Peer Review began on 10/16/13
: Proposal Status
: Status As of Today Dated: 11/20/13
: This proposal is currently being considered by the above Program.
: Consideration of proposals usually requires up to six months.
【在 q****w 的大作中提到】
: 我不懂变态是什么意思。这个是我的记录(属于传说中的变态了吗?):
: Review Information:
: External Peer Review began on 10/16/13
: Proposal Status
: Status As of Today Dated: 11/20/13
: This proposal is currently being considered by the above Program.
: Consideration of proposals usually requires up to six months.
l*g
14 楼
你后退一页看那个status date
【在 q****w 的大作中提到】
: 我不懂变态是什么意思。这个是我的记录(属于传说中的变态了吗?):
: Review Information:
: External Peer Review began on 10/16/13
: Proposal Status
: Status As of Today Dated: 11/20/13
: This proposal is currently being considered by the above Program.
: Consideration of proposals usually requires up to six months.
【在 q****w 的大作中提到】
: 我不懂变态是什么意思。这个是我的记录(属于传说中的变态了吗?):
: Review Information:
: External Peer Review began on 10/16/13
: Proposal Status
: Status As of Today Dated: 11/20/13
: This proposal is currently being considered by the above Program.
: Consideration of proposals usually requires up to six months.
p*m
16 楼
10/16/13那天nsf应该是shutdown的呀。
【在 q****w 的大作中提到】
: 我不懂变态是什么意思。这个是我的记录(属于传说中的变态了吗?):
: Review Information:
: External Peer Review began on 10/16/13
: Proposal Status
: Status As of Today Dated: 11/20/13
: This proposal is currently being considered by the above Program.
: Consideration of proposals usually requires up to six months.
【在 q****w 的大作中提到】
: 我不懂变态是什么意思。这个是我的记录(属于传说中的变态了吗?):
: Review Information:
: External Peer Review began on 10/16/13
: Proposal Status
: Status As of Today Dated: 11/20/13
: This proposal is currently being considered by the above Program.
: Consideration of proposals usually requires up to six months.
h*i
17 楼
所以我们期待能有几个Clojure公司发达了能多做点贡献,把ML stack搞起来。目前还
没有。
clojure
【在 n*****3 的大作中提到】
: so the clojure web service will feed and get result back from python/ML
: part ?
: here we are researching what will be the best architecture to communicate
: between
: clojure based real time
: system and the ML part which using python. ideally everything in clojure
: /clojurescript will
: be great, but not every ML/DS guy will like to play with clojure.. and
: clojure ML /MXNET is
: not so mature yet..
没有。
clojure
【在 n*****3 的大作中提到】
: so the clojure web service will feed and get result back from python/ML
: part ?
: here we are researching what will be the best architecture to communicate
: between
: clojure based real time
: system and the ML part which using python. ideally everything in clojure
: /clojurescript will
: be great, but not every ML/DS guy will like to play with clojure.. and
: clojure ML /MXNET is
: not so mature yet..
h*i
19 楼
有时间的话,各种ML/DL Clojure其实都能做了,不过很多要自己实现。作为初创公司
,奢侈不起,要糙快猛出东西,time to market,python目前还是不能避免的。
快的计算走http就行了。
慢的,比如LDA啥的,扔进去一个文件集,算半天才出结果的,有各种办法。以前我就
用S3,算完了notify一下,自己去取结果。这次为了避免套牢AWS,用了kafka队列,也
不错,但python的kafka支持还不太成熟,问题很多。
clojure
【在 n*****3 的大作中提到】
: so the clojure web service will feed and get result back from python/ML
: part ?
: here we are researching what will be the best architecture to communicate
: between
: clojure based real time
: system and the ML part which using python. ideally everything in clojure
: /clojurescript will
: be great, but not every ML/DS guy will like to play with clojure.. and
: clojure ML /MXNET is
: not so mature yet..
,奢侈不起,要糙快猛出东西,time to market,python目前还是不能避免的。
快的计算走http就行了。
慢的,比如LDA啥的,扔进去一个文件集,算半天才出结果的,有各种办法。以前我就
用S3,算完了notify一下,自己去取结果。这次为了避免套牢AWS,用了kafka队列,也
不错,但python的kafka支持还不太成熟,问题很多。
clojure
【在 n*****3 的大作中提到】
: so the clojure web service will feed and get result back from python/ML
: part ?
: here we are researching what will be the best architecture to communicate
: between
: clojure based real time
: system and the ML part which using python. ideally everything in clojure
: /clojurescript will
: be great, but not every ML/DS guy will like to play with clojure.. and
: clojure ML /MXNET is
: not so mature yet..
c*f
21 楼
是的 我也觉得python的kafka客户端是写的最烂的。。
最好的自然是java 因为自带 但是golang的那个也非常不错sarama
最好的自然是java 因为自带 但是golang的那个也非常不错sarama
w*z
27 楼
confluent-kafka-python is a lightweight wrapper aroundlibrdkafka, a finely
tuned C client.
我们都部署到几万台机子上,1.x 版本没有发现大问题
:是的 我也觉得python的kafka客户端是写的最烂的。。
:最好的自然是java 因为自带 但是golang的那个也非常不错sarama
tuned C client.
我们都部署到几万台机子上,1.x 版本没有发现大问题
:是的 我也觉得python的kafka客户端是写的最烂的。。
:最好的自然是java 因为自带 但是golang的那个也非常不错sarama
w*s
28 楼
got the rejection letter
g*t
30 楼
学习了.十个字。十个字。
: confluent-kafka-python is a lightweight wrapper aroundlibrdkafka, a
finely
: tuned C client.
: 我们都部署到几万台机子上,1.x 版本没有发现大问题
: :是的 我也觉得python的kafka客户端是写的最烂的。。
: :最好的自然是java 因为自带 但是golang的那个也非常不错sarama
【在 w**z 的大作中提到】
: confluent-kafka-python is a lightweight wrapper aroundlibrdkafka, a finely
: tuned C client.
: 我们都部署到几万台机子上,1.x 版本没有发现大问题
:
: :是的 我也觉得python的kafka客户端是写的最烂的。。
: :最好的自然是java 因为自带 但是golang的那个也非常不错sarama
: confluent-kafka-python is a lightweight wrapper aroundlibrdkafka, a
finely
: tuned C client.
: 我们都部署到几万台机子上,1.x 版本没有发现大问题
: :是的 我也觉得python的kafka客户端是写的最烂的。。
: :最好的自然是java 因为自带 但是golang的那个也非常不错sarama
【在 w**z 的大作中提到】
: confluent-kafka-python is a lightweight wrapper aroundlibrdkafka, a finely
: tuned C client.
: 我们都部署到几万台机子上,1.x 版本没有发现大问题
:
: :是的 我也觉得python的kafka客户端是写的最烂的。。
: :最好的自然是java 因为自带 但是golang的那个也非常不错sarama
w*z
34 楼
不客气。我们也是刚从 0.x 版本升上来的。
:Switched, so far so good. Thanks again.
:
:Switched, so far so good. Thanks again.
:
相关阅读
板上非科班的码农多吗C++含有指针成员的类现在做rpc service用啥框架?搞AI是不是一定需要学习cuda?安装了floydhub的dl dockerfile,然后import pandas就挂掉了,靠开始教小孩写程序了Idris是未来机器学习的一个潜在竞争者妈的装了一天的windows7 service pack 1linux怎么快速重装系统保持原来的配置?scalding的学习资料好少啊!有谁懂这个: example(data.table) ; dt.tbl> DT[X, on=.(y<=foo)]wdong开始转型娱乐业了大家看看这道C语言题是怎么回事?Ubuntu WPS office 公式输入法 (转载)被opengl害惨了!以前版上提到的外面开源的类似于 spanner 叫啥名字?写GPU的汇编 - mission impossible其实税务/财务软件完全有发展空间的scala is leaving JVMIs your password safe?