标签: ChatGPT

  • 李宁(清华大学经济管理学院教授)

    李宁(清华大学经济管理学院教授)

    个人简介
    李宁,清华大学经济管理学院领导力与组织管理系Flextronics 讲席教授,系主任。曾在美国爱荷华大学商学院管理与创业系担任助理教授(2012-2017)、副教授(终身教职)(2017-2020)、教授(2020-2021)。国际管理类学术期刊Journal of Management 副主编和Management and Organization Review执行主编。

    教育经历
    2005年获上海交通大学安泰管理学院(工商管理)学士学位
    2012年获德州农工大学Mays商学院   (组织行为)博士学位

    工作经历
    自2021年起在清华大学经济管理学院领导力与组织管理系任教授(长聘)和Flextronics 讲席教授。曾在美国爱荷华大学商学院管理与创业系担任助理教授(2012-2017)、副教授(终身教职)(2017-2020)、教授(2020-2021)。

    讲授课程
    为本科生、MBA、博士生开授组织行为学、人力资源管理、领导力、组织管理研究设计、组织网络分析、基于数据驱动的组织管理等课程和专题讲座。在美国爱荷华大学工作期间,作为博士生论文指导教师,指导4名博士生,在世界一流研究型大学商学院任教,包括香港大学、美国内布达斯加大学林肯分校、伊利诺伊大学芝加哥分校和香港中文大学。

    研究领域
    研究兴趣主要包括组织协作、团队网路和效能、个体和团队创新机制研究、领导力、大数据在组织管理中的应用以及中国管理概念研究。近年来的研究从跨学科融合的视角,结合数据科学(大数据、机器学习、人工智能)和人力资源管理及组织行为科学来研究员工、领导、团队及组织的行为模式和效能,重点对组织能力、跨部门协同、创新能力和知识员工效能等课题进行了深入研究。

    所获荣誉
    于2020年获得美国工业心理学会(SIOP)职业早期生涯杰出科学贡献奖。目前担任国际管理类学术期刊Journal of Management 副主编和Management and Organization Review执行主编。还担任Journal of Applied PsychologyPersonnel PsychologyJournal of Organizational Behavior 编委。

    业界经历
    在实践类期刊发表多篇管理实践论文,包括《哈佛商业评论》《清华管理评论》《中欧商业评论》。研究成果受到多家媒体的报导引用,包括:华尔街日报、哈佛商业评论、哈佛商业评论中文版、福布斯、英国广播公司、商业新闻日刊,雅虎,INC等。他多次应邀在国内外一流高校开展学术报告活动。在多家企业开展研究活动,为各类组织包括腾讯、蚂蚁金服、阿里云、飞利浦、好未来等提供基于大数据驱动的管理解决方案。通过结合组织管理理论和社会网络理论将企业中产生的海量行为数据转化为具有管理洞见的行为效能指标,采用定量分析方法挖掘员工、团队、领导、组织行为规律,进而优化组织管理实践、促进组织基于大数据驱动的组织管理决策。

    学术成果
    在国际管理期刊Academy of Management Review, Academy of Management Journal, Academy of Management Annals, Journal of Applied Psychology, Journal of Management, Personnel Psychology, Organizational Research Methods, Leadership Quarterly, Journal of Organizational Behavior, Human Resource Management, Human Relations等发表一系列具有影响力的研究成果。

    代表性论文
    1.     Liu, S., Li, N., & Xu, M. (2022). Good Soldiers Instead of Good Change Agents: Examining the Dual Effects of Self-Sacrificial Leadership on Pro-Social Behavior and Change-Oriented Behavior in Teams. Journal of Management, 01492063221117529.
    2.     Simsek, Z., Li, N., & Huang, J. L. (2022). Turbocharging practical implications in management studies. Journal of Management, 48(5), 1083-1102. (Editorial)
    3.     Zhao, H. H., Li, N., Harris, T. B., Rosen, C. C., & Zhang, X. (2021). Informational advantages in social networks: The core-periphery divide in peer performance ratings. Journal of Applied Psychology, 106: 1093-1102.
    4.     Zhang, X., Liao, H., Li, N., & Colbert, A. 2020. Playing It Safe for My Family: Exploring the Dual Effects of Family Motivation on Employee Productivity and Creativity. Academy of Management Journal, 63: 1923-1950.
    5.     Li, Y., Li, N†*., Li, C., & Li, J. 2020. The Boon and Bane of Creative ‘Stars’: A Social Network Exploration of How and When Team Creativity Is (and Is Not) Driven by a Star Teammate. Academy of Management Journal, 6: 613-635.
    6.     McCormick, B. W, Reeves, C. J, Downes, P., Li, N., & Ilies, R. 2020. Scientific Contributions of Within-Person Research in Management: Making the Juice Worth the Squeeze. Journal of Management, 46: 321-350.
    7.     Zheng, X. S., Li, N*., Harris, T. B., & Hui, L. 2019. Unspoken Yet Understood: An introduction and initial Framework of subordinates’ Moqi with supervisors. Journal of Management, 45: 955-983.
    8.     Li, Y., Li, N†*., Guo, J., Li, J., & Harris, T. B. 2018. A Network View of Advice-Giving and Individual Creativity in Teams: A Brokerage-Driven, Socially Perpetuated Phenomenon. Academy of Management Journal, 61: 2210-2229.
    9.     Gardner, R. G., Harris, T. B., Li, N., Kirkman, B. L., & Mathieu, J. E. 2017. Understanding “It Depends” in Organization Research: A Theory-Based Taxonomy, Review, and Future Research Agenda Concerning Interactive and Quadratic Relationships. Organizational Research Methods, 20: 610-638
    10.  Li, N., & Chiaburu, D. S., & Kirkman, B. L 2017. Cross-level influences of empowering leadership on citizenship and taking-charge: Organizational support as a double-edged sword. Journal of Management, 43: 1076-1102
    11.  Sui, Y., Wang, H., Kirkman, B. L., & Li, N. 2016. Understanding the curvilinear relationships between LMX differentiation and team coordination and performance. Personnel Psychology, 69: 559-597.
    12.  Li, N., Zheng, X.M., Harris, T. B., Liu, X., & Kirkman, B. L. 2016. Recognizing ‘Me’ Benefits ‘We’: Investigating the Positive Spillover Effects of Formal Individual Recognition in Teams. Journal of Applied Psychology, 101: 925-939
    13.  Huang, J., Chiaburu, D. S., Zhang, X.A., & Li, N. 2015. Rising to the challenge: Deep acting is more impactful when tasks are appraised as challenging. Journal of Applied Psychology, 100: 1398-1408.
    14.  Li, N., Zhao, H. H., Walter, S., Zhang, X. A., & Yu, J. 2015. Achieving more with less: Extra milers’ behavioral influences in teams. Journal of Applied Psychology, 100: 1025-1039.
    15.  Burnett, M., Chiaburu, D. S., Shapiro, D. L. & Li, N. 2015. Revisiting how and when perceived organizational support enhances taking charge: An inverted u-shaped perspective. Journal of Management, 41: 1805-1826.
    16.  Zhang, X. A., Li, N*., Ullrich, J., & van Dick, R. 2015. Getting everyone on board: The effect of executive differentiated transformational leadership on top management team effectiveness and subsidiary firm performance. Journal of Management, 41: 1898-1933.
    17.  Chiaburu, D. S., Stoverink, C. A., Li, N., & Zhang, X.A. 2015. Extraverts engage in more interpersonal citizenship when motivated to impression manage: Getting along to get ahead? Journal of Management, 41: 2004-2031.
    18.  Li, N., Kirkman, B. L. & Porter, C. O. L. H. 2014. Toward a model of work team altruism. Academy of Management Review, 39: 39:541-565.
    19.  Li, N., Barrick, M. R., Zimmerman, R. D, & Chiaburu, D. S. 2014. Retaining the productive employee: The role of personality. Academy of Management Annals, 8: 347-395.
    20.  Harris, T., Li, N., Boswell, W. R, & Xie, Z. T. 2014. Getting what’s new from newcomers: Empowering leadership, creativity, and adjustment in the socialization context. Personnel Psychology, 67: 567-604.
    21.  Li, N., Chiaburu, D. S., Kirkman, B. L. & Xie, Z. T. 2013. Spotlight on the followers: Neutralizing the effect of transformational leadership on subordinates’ citizenship and taking charge. Personnel Psychology, 66: 225-260.
    22.  Barrick, M. R., Mount, M. K., & Li., N. 2013. The theory of purposeful work behavior: The role of personality, job characteristics, and experienced meaningfulness. Academy of Management Review, 38: 132-153.
    23.  Li, N., Harris, T., Boswell, W. R, & Xie, Z. T. 2011. The role of organizational insiders’ developmental feedback and proactive personality on newcomers’ performance: An interactionist perspective. Journal of Applied Psychology, 96: 1317-1327.
    24.  Chiaburu, D. S., Oh, I., Berry, C. M., Li, N., & Gardner. R. 2011. The five-factor model of personality traits and organizational citizenship: A meta-analysis.  Journal of Applied Psychology, 96: 1140-1166.
    25.  Li, N., Liang, J., & Crant, J. M. 2010. The role of proactive personality in job satisfaction and organizational citizenship behavior: A relational perspective. Journal of Applied Psychology, 95: 395-404.

    相关阅读
    https://www.sem.tsinghua.edu.cn/info/1209/31845.htm

  • Google和OpenAI的大模型发展历程

    Google和OpenAI的大模型发展历程

    图片来自清华大学范玉顺教授《人工智能与大模型的发展和应用》报告内容

    Google

    • 2017年6月: 谷歌大脑团队发表论文《Attention is all you need》,首次提出了基于自注意力机制的Transformer模型,并首次将其用于自然语言处理。
    • 2018年10月: 提出BERT模型,发布了两套BERT模型,参数总数分别为110M和340M。
    • 2019年10月: 发布了110亿参数的预训练模型T5。
    • 2021年1月: 推出1.6万亿参数的Switch Transformer。
    • 2021年5月: 发布了1370亿参数的LaMDA。
    • 2022年4月: 发布了5400亿参数的PaLM。
    • 2023年12月: 推出多模态大模型Gemini。

    OpenAI

    • 2017年6月: 基于谷歌的那篇《Attention is all you need》文章开始发展。
    • 2018年6月: 推出1.17亿参数的GPT-1模型。
    • 2019年2月: 推出15亿参数的GPT-2模型。
    • 2020年5月: 发布了1750亿参数的GPT-3。
    • 2022年3月: 发布InstructGPT,回答更加真实。
    • 2022年11月: 发布ChatGPT。
    • 2023年11月: 推出GPT-4 Turbo,可输入128K个Token。
    • 2024年1月: 推出GPT应用商店。
  • AGI经典文章:Attention Is All You Need

    AGI经典文章:Attention Is All You Need

    Attention Is All You Need 主要介绍了Transformer模型,这是一个完全基于注意力机制的新型网络架构。

    文章核心要点
    Transformer架构:多头注意力机制:通过并行化的多头注意力机制,使模型可以在不同的子空间上同时关注信息,提高了模型的表达能力和训练效率。位置编码:由于Transformer模型没有循环结构,需要通过位置编码(Positional Encoding)注入位置信息,使模型能够捕捉序列中的位置信息。
    注意力机制的类型:缩放点积注意力(Scaled Dot-Product Attention):通过缩放点积来计算注意力得分,以缓解点积值过大导致的梯度消失问题;自注意力(Self-Attention):使得序列中的每个位置都可以与序列中的其他位置进行交互,从而捕捉全局信息。
    计算效率:Transformer模型相比RNN具有更高的并行计算能力和更低的计算复杂度,特别是在处理长序列时表现优异。
    模型应用:Transformer在多个自然语言处理任务中表现出色,如机器翻译、文本生成等,显著超过了当时的最先进模型。
    训练细节:使用标准的WMT 2014英德和英法数据集进行训练,并采用字节对编码(Byte-Pair Encoding)对句子进行编码,提高了模型的通用性和性能。

    摘要
    当前的序列转换模型大多基于复杂的循环神经网络(RNN)或卷积神经网络(CNN),包括编码器和解码器。最优的模型通常通过注意力机制将编码器和解码器连接在一起。我们提出了一种新的简单网络架构——Transformer,完全基于注意力机制,完全放弃了循环和卷积。两个机器翻译任务的实验表明,这些模型在质量上更优,同时具有更高的并行性,训练时间显著减少。我们的模型在WMT 2014英德翻译任务中达到28.4的BLEU分数,比现有最优结果(包括集成)提高了超过2个BLEU。在WMT 2014英法翻译任务中,我们的模型在八个GPU上训练3.5天后,建立了新的单模型最先进BLEU分数41.8,仅为文献中最优模型训练成本的一小部分。我们证明了Transformer在其他任务中的良好泛化能力,通过将其成功应用于英语成分解析任务。

    全文阅读
    https://arxiv.org/pdf/1706.03762