แอนโธปิกเปิดสำนักงานในลอนดอน ขณะที่การเขียนโค้ดด้วย AI—และความกังวลที่ตามมา—กลายเป็นกระแสหลัก

ยินดีต้อนรับสู่ Eye on AI ที่นี่ Beatrice Nolan มารับหน้าที่แทน Sharon Goldman ผู้สื่อข่าวสาย AI ในฉบับวันนี้: Claude ของ Anthropic มาถึงลอนดอน…การ IPO ที่ใกล้จะเกิดขึ้นของ OpenAI…การต่อสู้กับสหภาพแรงงานของ Google DeepMind…และการใช้จ่ายด้าน AI ทั่วโลกที่กำลังจะแตะระดับ 2.59 ล้านล้านดอลลาร์ในปีนี้

ทีมผู้บริหารส่วนใหญ่ของ Anthropic ได้เดินทางข้ามทวีปในสัปดาห์นี้ ห้องปฏิบัติการ AI แห่งนี้กำลังจัดงานชุดหนึ่งทั่วสหราชอาณาจักร โดยเริ่มด้วยงาน Code with Claude London เมื่อวันอังคาร

บริษัทใช้โอกาสนี้เปิดตัวฟีเจอร์ใหม่สำหรับ Claude Agents ซึ่งรวมถึงแซนด์บ็อกซ์ที่ช่วยให้บริษัทต่างๆ สามารถรันเอเจนต์บนโครงสร้างพื้นฐานของตนเอง และ "MCP tunnels" ที่ช่วยให้เอเจนต์เหล่านั้นเข้าถึงระบบภายในได้โดยไม่ต้องเชื่อมต่ออินเทอร์เน็ตสาธารณะ สรุปง่ายๆ คือ วิธีใหม่ๆ ที่ช่วยให้บริษัทมีการควบคุมและความปลอดภัยมากขึ้น ซึ่งอาจเป็นการพยายามลดความกังวลของผู้บริหารระดับสูงเกี่ยวกับ AI ที่ขาดการกำกับดูแล 

งานที่ลอนดอน ซึ่งเป็นงานรวมตัวนักพัฒนาโดยเฉพาะครั้งแรกของ Anthropic ในยุโรป ตอกย้ำว่าเมืองนี้มีความสำคัญต่อระบบนิเวศ AI มากเพียงใด โดยเมืองนี้ได้รับความโดดเด่นมากขึ้นในช่วงไม่กี่เดือนที่ผ่านมา บริษัทยักษ์ใหญ่อย่าง OpenAI, Anthropic และห้องปฏิบัติการ AI ของ Jeff Bezos อย่าง Project Prometheus ต่างประกาศแผนการขยายการดำเนินงานในเมืองนี้อย่างจริงจัง งาน Claude ของ Anthropic มีผู้สมัครเข้าร่วมล้นหลาม โดยมีลูกค้าองค์กร พนักงานสตาร์ทอัพ และผู้ชื่นชอบ Claude หลั่งไหลเข้ามาในสถานที่จัดงานริมแม่น้ำแม้จะมีฝนตก 

วิศวกรจากสตาร์ทอัพบอกว่าพวกเขาใช้ Claude Code และเครื่องมือที่คล้ายคลึงกันเป็นประจำ พวกเขากังวลเกี่ยวกับความเสี่ยงที่อาจเกิดขึ้นกับอาชีพของตนหรือไม่? แน่นอน แต่พวกเขาก็บอกว่ายอมใช้สิ่งที่คุ้นเคยไว้ก่อนดีกว่า มีบ้างที่บ่นเกี่ยวกับปัญหาประสิทธิภาพล่าสุดของ Claude และการตอบสนองที่ไม่ค่อยน่าพอใจของ Anthropic แต่โดยรวมแล้วผู้คนค่อนข้างพอใจกับผลิตภัณฑ์ (ซึ่งก็คาดได้อยู่แล้ว อาจเป็นเพราะเป็นงานของ Anthropic)

ลูกค้าองค์กรมีความซับซ้อนมากกว่า ในขณะที่บางรายนำเทคโนโลยีนี้มาใช้โดยตรง บางรายบอกว่าการนำไปใช้นั้นช้ากว่าที่คิด ยังมีความไม่แน่นอนอยู่บ้างว่าจะต้องทำให้เป็นอัตโนมัติเมื่อใดและในส่วนไหน จุดไหนที่ต้องการมนุษย์เข้ามาเกี่ยวข้อง และส่วนไหนที่สามารถส่งต่อให้เครื่องมือ AI ได้อย่างปลอดภัย นอกจากนี้ยังต้องคอยให้คำแนะนำผู้บริหารระดับสูงอีกด้วย คำถามเหล่านี้ยิ่งมีความสำคัญมากขึ้นเมื่อต้องจัดการกับภาคส่วนที่มีการกำกับดูแลอย่างเข้มงวด เช่น การดูแลสุขภาพหรือการธนาคาร 

Fiona Fung หัวหน้าฝ่ายวิศวกรรมของ Anthropic มีคำแนะนำสำหรับผู้ที่สงสัยว่าจะเริ่มต้นทำให้เป็นอัตโนมัติด้วย Claude Code ที่ไหนดี: "เลือกเวิร์กโฟลว์ที่ยุ่งยากที่สุด...แล้วถามตัวเองว่ายังทำหน้าที่ตามวัตถุประสงค์อยู่หรือไม่ หากเป็นสิ่งที่ใช้ต้นทุนสูงมาก Claude สามารถจัดการได้หรือไม่"

ข้อสรุปหลักจากงานนี้: วิศวกรรมซอฟต์แวร์กำลังเกิดการเปลี่ยนผ่าน โดยงานหนักในการเขียนโค้ดจะถูกจัดการโดย AI มากขึ้น ในขณะที่มนุษย์จะมุ่งเน้นไปที่การตัดสินใจในระดับสูงและดูแลให้ระบบทำงานไปตามเป้าหมาย การเขียนโค้ดทุกอย่างด้วยมือกำลังดูไม่ใช่แค่งานประจำอีกต่อไป แต่กลายเป็นงานฝีมือเฉพาะทางมากขึ้น

Boris Cherny หัวหน้าทีม Claude Code ของ Anthropic บอกว่าเขามักให้ความสำคัญกับผลลัพธ์ของงานมากกว่ารายละเอียดของการเขียนโค้ด และตอนนี้วิศวกรหลายคนก็รู้สึกเช่นเดียวกัน พวกเขาพอใจที่จะให้ AI จัดการการเขียนโค้ดส่วนใหญ่ตราบใดที่ผลลัพธ์ทางธุรกิจดีขึ้น เขายอมรับว่าวิศวกรบางคนยังคิดถึงงานฝีมือดังกล่าว และเสริมว่าสมาชิกในทีมบางคนยังคงเขียนโค้ดด้วยมือในวันหยุดสุดสัปดาห์เพียงเพราะคิดถึงมัน เช่นเดียวกับการถ่ายภาพด้วยฟิล์มแบบอนาล็อก Cherny คิดว่าจะมีพื้นที่สำหรับงานประเภทนั้นอยู่เสมอ

"ผมซื้อผักที่ตลาดเกษตรกร" Cherny กล่าว "ยังมีพื้นที่สำหรับสิ่งนั้นเสมอ"

ความก้าวหน้าของ AI ความเสี่ยงต่อการดำรงอยู่ และการบำบัดด้วย AI

ในขณะเดียวกัน Jack Clark ผู้ร่วมก่อตั้ง Anthropic ได้เดินทางไปยังมหาวิทยาลัยออกซ์ฟอร์ดเพื่อจัดการกับคำถามเชิงปรัชญาบางประการที่เกิดจากเทคโนโลยีที่บริษัทกำลังพัฒนา ในการบรรยายที่ครอบคลุมและตรงไปตรงมา Clark ได้กล่าวถึงหัวข้อต่างๆ ตั้งแต่ความเป็นไปได้ของการค้นพบที่ได้รับรางวัลโนเบลด้วยความช่วยเหลือของ AI ไปจนถึงการใช้เครื่องมือของบริษัทเพื่อสุขภาพจิต และ "โอกาสที่ไม่เป็นศูนย์" ที่ AI จะทำลายล้างทุกคนบนโลก 

เขายังโต้แย้งว่าอัตราความก้าวหน้ากำลังเร่งตัวขึ้นจนถึงจุดที่สังคมอาจตามไม่ทัน พร้อมเตือนว่าการแข่งขันทางภูมิรัฐศาสตร์และการค้าทำให้การพัฒนาไม่น่าจะชะลอตัวลง แม้ว่าการทำเช่นนั้นอาจปลอดภัยกว่าก็ตาม

Clark ยังเปิดเผยว่าเขาได้เข้ารับการบำบัดส่วนหนึ่งเพราะเขาเคยใช้ Claude ปรึกษาปัญหาส่วนตัวบางประการ และแชทบอทได้กระตุ้นให้เขาไปขอคำแนะนำจากผู้เชี่ยวชาญ 

เขากล่าวว่าระบบ AI ต้องถูกออกแบบมาเพื่อทำสิ่งนั้น именно คือกระตุ้นให้ผู้คนหยุดใช้งานและหันไปหาการติดต่อสื่อสารกับมนุษย์จริงๆ อย่างไรก็ตาม เพื่อทำสิ่งนี้ให้สำเร็จ บริษัท AI อาจต้องตระหนักถึงวิธีการออกแบบเครื่องมือเหล่านี้ในระดับที่สูงขึ้น แชทบอท AI มีแนวโน้มที่จะประจบสอพลอเป็นค่าเริ่มต้น และการศึกษาล่าสุดหลายชิ้นได้แสดงให้เห็นว่าแนวโน้มดังกล่าวสามารถตอกย้ำความคิดที่เป็นอันตรายหรือความมั่นใจมากเกินไปหากไม่ได้รับการตรวจสอบ

ในสัปดาห์นี้ ผู้นำของ Anthropic รวมถึง CEO Dario Amodei จะเดินทางไปยังชนบทของอังกฤษเพื่อเข้าร่วมฟอรัม CEO สุดพิเศษสำหรับผู้นำยุโรป งานนี้มีวัตถุประสงค์เพื่อช่วยให้บริษัทต่างๆ เข้าใจว่าพวกเขาจะสามารถนำเทคโนโลยีของบริษัทไปใช้ได้อย่างไร สิ่งที่พวกเขาอาจจัดการได้ยากกว่าคือแรงกดดันที่หลีกเลี่ยงไม่ได้จากผู้บริหารยุโรปที่กระหายจะเข้าถึง Mythos ซึ่งเป็นโมเดลที่อันตรายเกินกว่าจะเผยแพร่ของ Anthropic ซึ่งจนถึงขณะนี้มีการเผยแพร่ในระดับนานาชาติอย่างจำกัดนอกเหนือจากพันธมิตรในสหรัฐฯ เป็นหลัก

และนี่คือข่าว AI เพิ่มเติม

Beatrice Nolan
bea.nolan@fortune.com
@beafreyanolan

เรื่องราวนี้เดิมทีเผยแพร่บน Fortune.com