Deepseek basically told us they do inference on GB300s in their deepinfer report .
The analysis is intersting but the conclusion has been a very open secret for a while
One of the more interesting bits of technical independent journalism (with shades of security research) I’ve ever read, and it has obvious policy implications if accurate.
1
59
Tal Perry retweeted
Saw Unravelling UNRWA last night at the Jewish International Film Festival at the Ritz Cinema in Sydney. Fantastic doco, highly recommend. I knnew a bit already from @Quillette’s reporting and general interest, but it unravelled a lot more.
I was especially moved by watching Ayelet Samerano talk about her late son, the beautiful Yonatan, who was murdered after he escaped Nova and tried to seek refuge in Kibbutz Be’eri. There is horrific footage of him being shot in his car by a foul terrorist.
Then there is more footage of his limp and bloody body being kidnapped by an UNRWA worker.
Compulsory viewing for anyone who cares about the conflict and how to solve it. UNRWA’s radicalism only prolongs it.
Great to see friends of Quillette like Benny Morris, @EinatWilf and @HillelNeuer in it. @HowidyHamza @Adi_Schwartz @marcusjsheff's contributions were also very helpful. Through the doco I learnt about Palestinian peace activist @mdajanidaoudi. Keen to see more of his work.
Token prices go down and GPU prices go up because the industry keeps getting better at squeezing tokens out of cards.
Take Deepseek, $38/hr/card of revenue selling tokens, at the lowest price on the market, during off hours.
The only limit is depth of market
a16z's Moses Sternstein and Alex Danco on the "rack spread," the gap between rising GPU prices and falling token prices:
"The core observation in the rack spread is as follows: roughly since the summer, GPU pricing has gone up, token pricing has gone down. Why that is: a combination of open competition, the labs themselves cutting prices."
"We start with a bunch of GPUs and a bunch of electricity and a bunch of cooling, and on the other side out comes tokens, right? And the thing that achieves that is the model."
"In an oil refinery, you have a bunch of inputs... It goes into a refinery, which is like the model, and then out come refined products that you can actually use, like jet fuel or diesel or lubricant or any number of specialized things."
"There is this term called the crack spread... It's not a net margin that anybody is actually making... But it is useful because if you look at any given refinery, just like you might look at any given model, you want to ask this basic question which is, 'Is this making any money?'"
@MosesSternstein @alex_danco
72
Tal Perry retweeted
The final analysis of Gaza deaths based on Hamas’ own data is really bloody annoying.
Tal Perry retweeted
If Dario wants to slow down the pace of AI, he should just move the company to Europe.
Tal Perry retweeted
Four months ago, The New York Times ran a piece by Ezra Klein. Its original headline was “Hasan Piker Is Not the Enemy.” The headline was later changed. Here’s what I wrote in response at the time:
A response to Ezra Klein: in a column in The New York Times this week ,Klein makes this claim: that Israel “used the Iran war as an opportunity” to invade Lebanon, displace more than a million people, and bar hundreds of thousands from returning home.
I have much to say about the piece as a whole - first published under the headline “Hasan Piker Is Not the Enemy" - But I want to focus on this Lebanon point. It reveals so much.
Here is my response:
nadaveyal.com/p/a-brief-repl…
Tal Perry retweeted
מחפש רופא ישראלי שנמצא עכשיו בצפון הודו - Kullu (קוּלוּ), לא רחוק ממנאלי. מקרה דחוף ומורכב של מטייל שזקוק לעזרה.
נמצא כרגע בבית החולים Kullu Valley Hospital.
#רטווטו
Tal Perry retweeted
Ich hätte nie gedacht, dass ich so etwas einmal öffentlich äußere.
Ich kann gerade nicht mehr.
Ich reiße mich sehr zusammen, dies zu schreiben.
Eine Kommission zur Untersuchung des Massakers vom 07. Oktober 2023 im Hinblick auf den sexualisierten Terror – auch an den Geiseln – hat ihren Bericht veröffentlicht.
In einigen Kommentaren hatte ich schon dazu gelesen. Die meisten von ehemaligen Soldaten, die im OSINT- oder akademischen Bereich in der Richtung öffentlich auftreten. Alle waren erschüttert, selbst Soldaten, die „in der Scheiße“ waren.
Mein Wille war – und ist es noch – zumindest einen kurzen Überblick über das 300-seitige Dokument zu geben, für das über 10.000 Fotos und Video-Segmente und 1800 Stunden Videomaterial ausgewertet wurden. Welches die Palästinenser zumeist selber veröffentlicht haben.
Und das ist auch nicht irgendwie halt eine jüdische Kommission und Hasbara. Sie ist eine Non-Profit-Organisation und wird unterstützt durch die deutsche Botschaft Tel Aviv, Kanada, Microsoft, usw. Mit dabei sind u.a. eine französische Botschafterin für Menschenrechte, ein Professor und Gründer des UN-Gerichts für Sierra Leone, ein ehemaliger Kommissar für Menschenrechte der UN, ein ehemaliger Stabschef des Weißen Hauses, und und und.
Ich wollte zumindest erklären, was dieser Bericht ist, von wem er kommt und einige Zeugenaussagen zitieren. Denn, so grauenvoll wie das ist, halte ich es für meine und unsere Pflicht, sich dem auszusetzen.
Wenn wir nicht in der Lage sind das zu ertragen, wie können wir dann erhobenen Hauptes von den Opfern erwarten, dass sie es erdulden und sich fügen? Ohne ihnen das allzu menschliche zuzugestehen womöglich?
Die Opfer waren nicht nur Juden. Es waren auch Thailänder, Amerikaner, Argentinier, Franzosen, Briten… Und die Deutschen haben es in einer sozialpsychologisch bemerkenswerten Leistung vermocht zu verdrängen, dass auch 22 Deutsche getötet und 17 als Geiseln genommen wurden.
Es geht nicht alleine darum, diese Unmenschlichkeiten zu lesen. (Fotos sind nicht drin, ich kenne eh viele.) „Unmenschlichkeiten“ ist ein absolut treffendes Wort, dass jedoch durch zu häufigen Gebrauch seinen tatsächlichen Inhalt verloren hat.
Das kann ich ab. Ich bin MilBlogger, ich habe viele Stunden Videos erduldet, in denen Menschen von Drohnen getroffen, erschossen und von Minen zerrissen wurden. Und ich habe sehr viele Videos und Bilder des 10/7 gesehen. Mehr als jedem Menschen eigentlich lieb sein sollte.
Es geht darum, nicht in zu lange den Abgrund zu blicken, weil der Abgrund sonst in dich blickt.
Auch vorher schon habe ich öffentlich deutlich gemacht, dass ich keinerlei Empathie mehr für die Palästinenser empfinde. Oder nicht darüber nachdenke, wie sehr sie sich auf das eh nutzlose Völkerrecht berufen.
Denn mein Gedanke ist eigentlich sehr leicht, auch wenn er für viele schwer zu erfassen scheint:
Wir Europäer haben unsere Werte, auf denen das Völkerrecht unbestreitbar basiert, in langen Kriegen untereinander erstritten und mit Churchills Blut, Schweiß und Tränen teuer erkauft. Nicht so sehr basierend auf den christlichen Glauben – dessen Teil ich gar nicht abstreiten will – sondern auf die griechische Philosophie und die Aufklärung.
Es ist aber nur schwer nachvollziehbar, warum wir diese Werte auch auf diejenigen anwenden, sie sogar auf sie projizieren und ihnen die gleichen Werte unterstellen, die so offensichtlich einen Scheiß auf sie geben.
Nach nur wenigen Stunden der Arbeit an diesem Bericht kämpfe ich mit Dämonen.
Ich möchte auch weiterhin für eine Zweistaatenlösung sein können. Ich möchte auch weiterhin nicht von der passiven Empathielosigkeit in offene Aggression verfallen. Ich möchte auch weiterhin nicht den Hass als einfachste Lösung bevorzugen. Ich will nicht alles auf den Islam projizieren.
Doch mit jeder Seite, mit jeder Zeugenaussage und mit jedem Bericht eines Helfers, in der nüchternen, fast wissenschaftlichen Zusammenfassung und Forensik, fällt es zunehmend schwer. So unglaublich schwer, dass ich mich dabei erwischt habe, alleine im Büro laut Debatten zu führen. (Normalerweise eine gute Schreib-Technik um Argumentationen zu üben.)
In unserem europäischen Hirn sortieren wir die Hamas gerne als Terrororganisation ein, die losgelöst von der palästinensischen Bevölkerung agiert. Dieses Bild beginnt zu bröckeln in dem Moment, in dem wir uns klar machen müssen, dass mindestens die Gaza-Palästinenser sich ja in dieser Gesellschaft eingerichtet haben. In der sie mit Cousins verheiratet werden, ihren Kindern in UNRWA-Schulen der Hass auf Juden beigebracht wird und jeder Angestellte eines Krankenhauses oder einer Uni die Hamas als Arbeitgeber auf der Lohnabrechnung hat. Das geht weit über Nazi-Mitläufer hinaus.
Wie lange kann jemand in einem solchen System tatsächlich unschuldig sein?
Und mehr noch: Wie muss eine Gesellschaft gestrickt sein, in der es als Machtdemonstration gilt, wenn junge Männer im Kreis um eine Geisel stehen, ihre sexuelle Frustration und soziale Inkompetenz kompensieren und sie reihum vergewaltigen? Selbst wenn sie tot ist, noch den rotten Pimmel unter dem Gelächter der Umstehenden in die Rotze des Vorgängers stecken?
Wenn diese Formulierung Ihnen zu hart war, sind Sie nicht ansatzweise bereit für die Realitäten. Damit müssen Sie klarkommen, nicht ich. Sich bei mir über die Formulierungen zu beklagen ist das deutlichste Zeichen dafür, sich den Realitäten nicht stellen zu wollen.
„Die Männer zerrten eine Frau aus dem Fahrzeug... entfernten gewaltsam die Kleidung und vergewaltigten sie... Sie stachen wiederholt auf sie ein und töteten sie... und vergewaltigten sie weiter, nachdem sie tot war.“
Raz Cohen, Überlebender des Nova Festivals
Wir können ja noch nicht einmal deutlich darüber debattieren. Weil unsere Regularien und unser sozialer Konsens es unterbinden auszusprechen, was die Realität ist. Ich kann noch nicht einmal Fotos posten, weil ich befürchten muss, dass die Social Media Plattformen mich dafür blockieren. Ich kann teilweise nicht einmal Links zu Fotos anderer Plattformen posten.
Wir bekommen eine heile Welt aufgezwungen, während um die Ecke das passiert, was wir als „unmenschlich“ aus unserer Welt entfernen wollen. Und leisten damit denen Bärendienste, die diese Realität verschwinden lassen wollen, während sie sie vorher noch stolz veröffentlicht haben.
Mir braucht keiner mehr mit Völkerrecht und Empathie gegenüber den Palästinensern kommen. Ich erlaube mir den menschlichen Reflex zumindest soweit.
Aber ich will nicht in diesen Abgrund. Und das ist anstrengend. Ich hatte Wuttränen.
Und ich musste mir Luft machen.
Der Artikel wird kommen.
Ich habe nicht das Recht wegzusehen.
Aber jetzt gerade kann ich einfach nicht mehr.
youtu.be/2p3rtnQ_7y4?si=z8D1…
Anmerkung: In den Datenbanken mit Pressebildern gibt es nur sehr wenige Bilder des 10/7 aus Israel, da dort Persönlichkeitsrechte und Opferschutz geachtet werden. Weshalb ich auch für die meisten auf Social Media gesperrt würde. Aber dafür sehr viele aus dem Gazastreifen, schon am ersten Tag.
Aus meinem Archiv…
Foto 1: Getötete Zivilisten auf der Straße nach Sderot
Foto 2: Israelische Truppen versuchen Sderot wieder unter Kontrolle zu bringen
Foto 3: Palästinenser überqueren zum Morden und Vergewaltigen die eingerissene Grenze nach Israel
Tal Perry retweeted
In my doctorate, I proved the Erdős Primitive Set Conjecture, showing that the primes themselves are maximal among all primitive sets.
This problem will always be in my heart: I worked on it for 4 years (even when my mentors recommended against it!) and loved every minute of it.
[Primitive sets are a vast generalization of the prime numbers: A set S is called primitive if no number in S divides another.]
Now Erdős#1196 is an asymptotic version of Erdős' conjecture, for primitive sets of "large" numbers.
It was posed in 1966 by the Hungarian legends Paul Erdős, András Sárközy, and Endre Szemerédi.
I'd been working on it for many years, and consulted/badgered many experts about it, including my mentors Carl Pomerance and James Maynard.
The the proof produced by GPT5.4 Pro was quite surprising, since it rejected the "gambit" that was implicit in all works on the subject since Erdős' original 1935 paper. The idea to pass from analysis to probability was so natural & tempting from a human-conceptual point of view, that it obscured a technical possibility to retain (efficient, yet counter-intuitve) analytic terminology throughout, by use of the von Mangoldt function \Lambda(n).
The closest analogy I would give would be that the main openings in chess were well-studied, but AI discovers a new opening line that had been overlooked based on human aesthetics and convention.
In fact, the von Mangoldt function itself is celebrated for it's connection to primes and the Riemann zeta function--but its piecewise definition appears to be odd and unmotivated to students seeing it for the first time. By the same token, in Erdős#1196, the von Mangoldt weights seem odd and unmotivated but turn out to cleverly encode a fundamental identity \sum_{q|n}\Lambda(q) = \log n, which is equivalent to unique factorization of n into primes. This is the exact trick that breaks the analytic issues arising in the "usual opening".
Moreover, Terry Tao has long suspected that the applications of probability to number theory are unnecessarily complicated and this "trick" might actually clarify the general theory, which would have a broader impact than solving a single conjecture.
This is one of the coolest such examples! See comments from Lichtman below, who proved the related primitive set conjecture arxiv.org/abs/2202.02384
Tal Perry retweeted
September 27th is the most important day in the Middle East since the Abraham Accords breakthrough.
I have spent countless hours studying Hezbollah and there is not an expert on earth who thought that what Israel has done to decapitate and degrade them was possible.
This is significant because Iran is now fully exposed. The reason why their nuclear facilities have not been destroyed, despite weak air defense systems, is because Hezbollah has been a loaded gun pointed at Israel. Iran spent the last forty years building this capability as its deterrent.
President Trump would often say, “Iran has never won a war but never lost a negotiation.” The Islamic Republic’s regime is much tougher when risking Hamas, Hezbollah, Syrian and Houthi lives than when risking their own. Their foolish efforts to assassinate President Trump and hack his campaign reek of desperation and are hardening a large coalition against them.
Iranian leadership is stuck in the old Middle East, while their neighbors in the GCC are sprinting toward the future by investing in their populations and infrastructure. They are becoming dynamic magnets for talent and investment while Iran falls further behind. As the Iranian proxies and threats dissipate, regional security and prosperity will rise for Christians, Muslims and Jews alike.
Israel now finds itself with the threat from Gaza mostly neutralized and the opportunity to neutralize Hezbollah in the north. It’s unfortunate how we got here but maybe there can be a silver lining in the end.
Anyone who has been calling for a ceasefire in the North is wrong. There is no going back for Israel. They cannot afford now to not finish the job and completely dismantle the arsenal that has been aimed at them. They will never get another chance.
After the brilliant, rapid-fire tactical successes of the pagers, radios, and targeting of leadership, Hezbollah’s massive weapon cache is unguarded and unmanned. Most of Hezbollah fighters are hiding in their tunnels. Anyone still around was not important enough to carry a pager or be invited to a leadership meeting. Iran is reeling, as well, insecure and unsure how deeply its own intelligence has been penetrated. Failing to take full advantage of this opportunity to neutralize the threat is irresponsible.
I have been hearing some amazing stories about how Israel has been collecting intelligence over the past 10 months with some brilliant technology and crowdsourcing initiatives.
But today, with the confirmed killing of Nasrallah and at least 16 top commanders eliminated in just nine days, was the first day I started thinking about a Middle East without Iran’s fully loaded arsenal aimed at Israel. So many more positive outcomes are possible.
This is a moment to stand behind the peace-seeking nation of Israel and the large portion of the Lebanese who have been plagued by Hezbollah and who want to return to the times when their country was thriving, and Beirut a cosmopolitan city. The main issue between Lebanon and Israel is Iran; otherwise there is a lot of benefit for the people of both countries from working together.
The right move now for America would be to tell Israel to finish the job. It’s long overdue. And it’s not only Israel’s fight.
More than 40 years ago, Hezbollah killed 241 US military personnel, including 220 Marines. That remains the single deadliest day for the U.S. Marine Corps since the Battle of Iwo Jima. Later that same day, Hezbollah killed 58 French paratroopers.
And now, over the past six weeks or so, Israel has eliminated as many terrorists on the US list of wanted terrorists as the US has done in the last 20 years. Including Ibrahim Aqil, the leader of Hezbollah’s Islamic Jihad Organization who masterminded the 1983 killing of those Marines.
Tal Perry retweeted
**Background to Israel's Preemptive Strike in Lebanon:**
On October 8, 2023, Hezbollah unilaterally and without provocation attacked Israel, less than 24 hours after the Hamas massacres on its southern border. Hezbollah has continued its attacks on Israel since then, viewing this as an act of solidarity with the "Axis of Resistance" and with Hamas. As a result, the entire northern region of Israel, along the border, has been evacuated, displacing tens of thousands of residents.
Hezbollah has launched thousands of rockets and unmanned drones toward Israel, prompting the IDF to retaliate by attacking Hezbollah targets in Lebanon. Last month, Israel carried out a targeted assassination in Beirut, killing Hezbollah's second-in-command, its Chief of Staff. Hezbollah has vowed revenge.
Israeli security forces have communicated, both to me and others, that Israel will not wait if it knows Hezbollah is planning to strike. Israel will launch a preemptive strike, which is precisely what is happening now. Additionally, Israel has sent a message to Hezbollah, which we have reported on, warning that any attack targeting Israeli civilians will result in a full-scale war by Israel against the state of Lebanon.
At the beginning of the conflict, on October 11, the Israeli cabinet convened to consider an IDF plan for a surprise, wide-ranging preemptive aerial strike against Hezbollah. Although the Defense Minister and most of the IDF supported the plan, the cabinet decided against it. The Israeli defense establishment believed at the time that it had excellent intelligence and the capability to significantly degrade Hezbollah’s abilities in such a surprise attack. However, the plan was not adopted due to concerns that it could distract from Israel's primary objective: dismantling Hamas's military power in the Gaza Strip.
Israel has now begun a second round of aerial assaults in Lebanon against Hezbollah targets. The critical questions now are whether Israel can derail Hezbollah's plan to attack Israel and significantly reduce its ability to retaliate. Hezbollah possesses tens of thousands of missiles, rockets, and unmanned drones. Some of these are extremely accurate, while others carry large payloads.
In Israel, there has been widespread speculation for weeks that Hezbollah would strike. People have been stockpiling food, supplies, and in some cases, purchasing generators in preparation for potential attacks on Israel's electrical and other infrastructure.
Another significant question is whether Iran will intervene. Additionally, what actions will U.S. forces, now significantly increased in the region by orders from the President and the White House, take if Iran intervenes.
Your mind will be blown when you add site:blogspot.com to your google search
the internet is littered with incredibly high quality blog posts from people who published only 3 things in their life and then never posted again
being able to surface them has been, by far, the biggest value add of ai search to me
3
203
Tal Perry retweeted
Today we send condolences to the people of Iran on the death of President Raisi. Ebrahim was a noble warrior against the pro-imperialist women of Iran who insisted on showing their hair in public and he showed great steadfastness by murdering some of them.
In 30 years we learn this is a paid tweet from OpenAI
Replying to @janleike
Stepping away from this job has been one of the hardest things I have ever done, because we urgently need to figure out how to steer and control AI systems much smarter than us.
93
Tal Perry retweeted
Stepping away from this job has been one of the hardest things I have ever done, because we urgently need to figure out how to steer and control AI systems much smarter than us.

























