Author SHA1 Message Date
xhgit 3e73b46005 fix(ai): 过滤黑屏警告卡与 OP/ED 区域;add 的源时间范围必须在已分析片段内
实测 V2 成片前半段:全黑帧、演职员表叠加的片头画面、黑屏警告
提示卡——模型从采样数据里挑到了这些高分垃圾段。

修改:
1. 规划数据过滤黑屏/警告/提示卡/敏感说明等描述(JUNK_CARD)
2. 长素材(>5 分钟)排除前 110 秒 OP 区与最后 120 秒 ED 区,
   短片不受影响
3. 提示词明确:in/out 必须取自片段列表中的 start/end
4. 净化层强制:素材已有分析数据时,add 的 in/out 必须与已分析
   片段相交,否则忽略该操作(防模型编造源时间范围)
5. 新增 OP/ED 区域过滤与范围约束测试
2026-11-14 20:07:11 +08:00
xhgit c7c963ceaa Merge pull request 'fix(ai): 重叠平移挤开旧片段时补生成 update 操作' (#17) from fix/shift-old-clips into main 2026-11-14 10:37:33 +00:00
xhgit c92a807c87 fix(ai): 重叠平移挤开旧片段时补生成 update 操作
实测:新建片段插入旧时间轴间隙、把旧片段挤开时,净化层只在
模拟里移动了旧片段,没有生成对应 update 操作——模拟通过校验、
实际应用时旧片段仍在原位,applyOperations 报「视频片段重叠」。
现在挤开旧片段时自动补一条 update 操作,模拟与实装一致。
新增回归测试(旧片段被挤开必须生成 update)。
2026-11-14 18:36:41 +08:00
xhgit 2b8cc45023 Merge pull request 'fix(ai): 新建模式下规划数据不再携带旧时间轴' (#16) from fix/fresh-no-old-timeline into main 2026-11-14 10:02:40 +00:00
xhgit 90502dc27e fix(ai): 新建模式下规划数据不再携带旧时间轴
实测 V2 规划失败:fresh 模式提示词要求先 remove 重建,但数据里
仍带着旧时间轴(含重复片段),模型把注意力放在旧片段的
「重复与逻辑混乱」上,最终返回空方案。
新建模式下 clips 置空、timelineDuration 归零,模型只看到素材与
新要求;应用侧仍会自动补上 remove 全部旧片段的操作。
新增测试:fresh 数据无旧片段、modify 数据保留旧片段。
2026-11-14 18:01:52 +08:00
xhgit 2aa0e50f73 Merge pull request 'fix(ai): 净化层去重同源片段,禁止重复使用相同 in/out 范围' (#15) from fix/dedupe-source-range into main 2026-11-14 09:55:14 +00:00
4 changed files with 56 additions and 8 deletions

No files matched your search

+7 -2
View File
@@ -93,7 +93,11 @@ export function sanitizeOperations(p,operations){
else if(m.type==='image'){clip.in=0;clip.out=Math.min(clampValue(raw.out,'out')??Math.min(5,60),60);}
else{clip.in=Math.min(clampValue(raw.in,'in')??0,Math.max(0,m.duration-.1));clip.out=Math.min(clampValue(raw.out,'out')??m.duration,m.duration);}
if(!(clip.out>clip.in+.05))return note('忽略 add:出点必须大于入点');
if(track!=='subtitle'){const key=clip.mediaId+'|'+Math.round(clip.in*10)+'|'+Math.round(clip.out*10);if(seenRange.has(key))return note('忽略 add:与现有片段重复使用同一源片段');seenRange.add(key);}
if(track!=='subtitle'){
const scored=(m.analysis?.segments||[]).filter(s=>s.score!=null);
if(scored.length&&!scored.some(s=>clip.in<s.end+.5&&clip.out>s.start-.5))return note('忽略 add:源时间范围不在已分析片段内');
const key=clip.mediaId+'|'+Math.round(clip.in*10)+'|'+Math.round(clip.out*10);if(seenRange.has(key))return note('忽略 add:与现有片段重复使用同一源片段');seenRange.add(key);}
if(raw.text!==undefined)clip.text=cleanText(raw.text);
for(const k of ['fade','brightness','contrast','saturation','fontSize']){const v=clampValue(raw[k],k);if(v!==undefined)clip[k]=v;}
if(raw.color!==undefined){const col=cleanColor(raw.color);if(col)clip.color=col;}
@@ -140,7 +144,8 @@ export function sanitizeOperations(p,operations){
if(vids[i].start<end-.02){
const at=Math.round(end*100)/100;
const add=addBySim.get(vids[i].id);if(add)add.clip.start=at;
else{const upd=updById.get(vids[i].id);if(upd)upd.changes.start=at;}
else{const upd=updById.get(vids[i].id);if(upd)upd.changes.start=at;
else{const entry={type:'update',id:vids[i].id,changes:{start:at}};ops.push(entry);updById.set(vids[i].id,entry);}}
vids[i].start=at;
note('视频片段重叠,已自动后移至 '+at.toFixed(1)+' 秒');
}
+10 -6
View File
@@ -86,12 +86,16 @@ export async function visionAnalyze(c,media,analysis,signal,progress){
// 避免超出本地模型上下文导致报错;明确选材规则,减少"乱选素材"。
const PLACEHOLDER=/尚未|等待|采样窗口|时间采样|语义或动作/;
const TITLE_CARD=/标题画面|演职员|职员表|片头|片尾|字幕卡|制作人员/;
const JUNK_CARD=/警告|黑屏|黑底|纯黑|全黑|提示卡|敏感|注意事项/;
// 动画剧集 OP/ED 区域:前 110 秒与最后 120 秒通常为主题曲/片尾/预告,不适合混剪取镜。
// 仅对长素材(>5 分钟,即完整剧集)生效,短片不受影响。
const OP_ZONE=110,ED_ZONE=120,LONG_MEDIA=300;
const SEG_CAP=60,PER_MEDIA_CAP=8,DESC_MAX=90;
const round2=n=>Math.round(n*100)/100;
function buildProjectData(p,budget){
function buildProjectData(p,budget,fresh){
const media=p.media.map(m=>{
const seen=new Set();
const all=(m.analysis?.segments||[]).filter(s=>s&&Number.isFinite(s.score)&&s.score!==null&&typeof s.description==='string'&&s.description&&!PLACEHOLDER.test(s.description)&&!TITLE_CARD.test(s.description)&&!seen.has(s.description)&&(seen.add(s.description),true))
const all=(m.analysis?.segments||[]).filter(s=>s&&Number.isFinite(s.score)&&s.score!==null&&typeof s.description==='string'&&s.description&&!PLACEHOLDER.test(s.description)&&!TITLE_CARD.test(s.description)&&!JUNK_CARD.test(s.description)&&(m.duration<=LONG_MEDIA||(s.start>=OP_ZONE&&s.end<=m.duration-ED_ZONE))&&!seen.has(s.description)&&(seen.add(s.description),true))
.map(s=>({start:round2(s.start),end:round2(s.end),score:round2(s.score),description:String(s.description).slice(0,DESC_MAX),...(s.reason?{reason:String(s.reason).slice(0,50)}:{})}))
.sort((a,b)=>b.score-a.score);
return {id:m.id,name:String(m.name||'').slice(0,60),type:m.type,duration:round2(m.duration),...(m.tags&&m.tags.length?{tags:m.tags.slice(0,6)}:{}),segments:all,hint:all.length?'':'未分析,必要时可从全片取用'};
@@ -99,10 +103,10 @@ function buildProjectData(p,budget){
media.sort((a,b)=>(b.segments[0]?.score??-1)-(a.segments[0]?.score??-1));
const kept=new Map();let cap=SEG_CAP;
for(const m of media){const out=[];for(const s of m.segments){const n=kept.get(m.id)||0;if(n>=PER_MEDIA_CAP||!cap)break;kept.set(m.id,n+1);cap--;out.push(s);}m.segments=out;}
const clips=p.clips.map(c=>({id:c.id,...(c.mediaId?{mediaId:c.mediaId}:{}),track:c.track,start:round2(c.start),in:round2(c.in),out:round2(c.out),speed:c.speed??1,volume:c.volume??1,
const clips=fresh?[]:p.clips.map(c=>({id:c.id,...(c.mediaId?{mediaId:c.mediaId}:{}),track:c.track,start:round2(c.start),in:round2(c.in),out:round2(c.out),speed:c.speed??1,volume:c.volume??1,
...(c.fade!==undefined?{fade:c.fade}:{}),...(c.text?{text:c.text.slice(0,200)}:{}),...(c.color?{color:c.color}:{}),...(c.fontSize?{fontSize:c.fontSize}:{}),
...(c.brightness!==undefined?{brightness:c.brightness}:{}),...(c.contrast!==undefined?{contrast:c.contrast}:{}),...(c.saturation!==undefined?{saturation:c.saturation}:{}),...(c.fit?{fit:c.fit}:{})}));
const data={settings:p.settings,timelineDuration:round2(Math.max(0,...p.clips.map(c=>c.start+(c.out-c.in)/(c.speed||1)))),media,clips};
const data={settings:p.settings,timelineDuration:fresh?0:round2(Math.max(0,...p.clips.map(c=>c.start+(c.out-c.in)/(c.speed||1)))),media,clips};
const steps=[
d=>{for(const m of d.media)m.segments=m.segments.slice(0,6);},
d=>{for(const m of d.media)for(const s of m.segments)s.description=s.description.slice(0,60);},
@@ -138,7 +142,7 @@ function buildHistoryBlock(history,budget){
}
export function plannerPrompt(p,instruction,{fresh=false,target=0,style=null,budget=9000,history=[]}={}){
const historyBlock=buildHistoryBlock(history,Math.max(400,Math.round(budget*.35)));
const data=buildProjectData(p,Math.max(1200,budget-historyBlock.length));
const data=buildProjectData(p,Math.max(1200,budget-historyBlock.length),fresh);
const hasSegments=data.media.some(m=>m.segments.length);
const mode=fresh?'用户要求创作新的时间轴:先 remove 现有全部片段,再按新要求重新 add;内容全部重新编排,不要保留旧镜头。':'时间轴需要保留:只修改用户明确提到的片段与字段,其余片段保持原样;不要删除未提及的片段,不要重建整个时间轴。';
const styleBlock=style?`风格参数(仅用于新添加的片段,不要改动现有片段):${JSON.stringify(style)}`:'';
@@ -154,7 +158,7 @@ remove {"type":"remove","id":"已有片段 ID"}。
必须遵守的规则:
1. 只能引用素材列表中的素材 ID,禁止编造;视频/图片放入 video 轨,音频放入 audio 轨,音频素材不能放入 video 轨。
2. 视频/音频的 in≥0 且 out≤素材 duration,且 out>in;图片素材 in=0,out 最长 60 秒。
2. 视频/音频的 in≥0 且 out≤素材 duration,且 out>in;图片素材 in=0,out 最长 60 秒。in/out 必须取自片段列表中该素材片段的 start/end 值,禁止自行编造源时间范围。
3. 视频轨片段不允许重叠;新片段一般接在时间轴末尾(start 等于 timelineDuration),除非用户要求插入特定位置。片段在时间轴上的时长=(out-in)/speed。
4. 素材选择:优先使用 score 高的片段;根据用户主题、关键词与片段的 description、reason、tags 匹配内容;尽量使用多个不同素材,避免同一素材连续堆砌;不要使用与主题明显无关的素材;未分析的素材只作补充。含蓄镜头(背影、牵手、表情特写、物品特写)同样可以表达人物关系,不必要求两人同框或正脸。禁止重复使用同一个源片段(相同素材的相同 in/out 范围只能出现一次)。
5. ${mode}
+20
View File
@@ -64,6 +64,26 @@ test('AI 操作净化:越界数值截断、无效引用忽略、视频轨重
assert.ok(r.notes.length>=5);
const applied=applyOperations(p,r.operations); // 净化后的操作必须能直接通过校验
assert.equal(applied.clips.filter(c=>c.track==='video').length,3);
// 新增片段把旧片段挤开时,必须生成对应的 update 操作(否则模拟与实装不一致)
const p2=newProject('旧片段平移');p2.media=[{id:'v',type:'video',duration:60,name:'v',tags:[]}];
p2.clips=[{id:'o1',mediaId:'v',track:'video',start:0,in:0,out:5,speed:1,volume:1},{id:'o2',mediaId:'v',track:'video',start:8,in:20,out:25,speed:1,volume:1}];
const r2=sanitizeOperations(p2,[{type:'add',clip:{mediaId:'v',track:'video',start:0,in:5,out:15,speed:1}}]);
const shiftUpdate=r2.operations.find(o=>o.type==='update'&&o.id==='o2');
assert.ok(shiftUpdate,'旧片段被挤开时必须生成 update 操作');
assert.equal(shiftUpdate.changes.start,15);
const applied2=applyOperations(p2,r2.operations);
assert.equal(applied2.clips.find(c=>c.id==='o2').start,15);
// 有分析数据的素材:add 的 in/out 必须落在已分析片段内,否则忽略(防模型编造源时间范围)
const p3=newProject('片段范围约束');p3.media=[{id:'v',type:'video',duration:600,name:'v',tags:[],analysis:{segments:[{start:100,end:110,description:'对话场景',score:90},{start:300,end:310,description:'拥抱',score:95}]}}];
const r3=sanitizeOperations(p3,[
{type:'add',clip:{mediaId:'v',track:'video',start:0,in:100,out:110}},
{type:'add',clip:{mediaId:'v',track:'video',start:5,in:200,out:210}}, // 不在已分析片段内,忽略
{type:'add',clip:{mediaId:'v',track:'video',start:10,in:305,out:308}},
]);
assert.equal(r3.operations.length,2);
assert.equal(r3.operations[0].clip.in,100);
assert.equal(r3.operations[1].clip.in,305);
assert.ok(r3.notes.some(n=>n.includes('不在已分析片段内')));
});
test('按参数组接:只使用已分析素材、按素材轮转保证多样性、忽略未分析素材',()=>{
const p=newProject('组接测试');p.media=[
+19
View File
@@ -39,6 +39,12 @@ test('规划提示词:按评分筛选片段、丢弃占位描述、区分新
{start:10,end:15,description:'尚未进行语义或动作识别',score:null},
{start:20,end:25,description:'城市夜景,车流灯光',score:score-10,reason:'节奏感强'},
]}});
const ep=(id,score)=>({id,name:id,type:'video',duration:1500,tags:[],analysis:{segments:[
{start:60,end:68,description:'黑屏上显示中文警告提示卡',score:97}, // 警告卡应排除
{start:200,end:208,description:'金发少年与少女在室内对话',score:90}, // 正文内容应保留
{start:1480,end:1488,description:'片尾演职员表滚动',score:96}, // ED 区应排除
{start:500,end:508,description:'雪地里两人相拥',score:score},
]}});
const p={settings:{width:1920,height:1080,fps:30},media:[mk('a',90),mk('b',40)],clips:[{id:'c1',mediaId:'a',track:'video',start:0,in:0,out:5,speed:1,volume:1,motion:[{time:0,zoom:1,x:.5,y:.5}],text:'旧字幕'}]};
const fresh=plannerPrompt(p,'制作一个旅行短片',{fresh:true,target:45,style:getStyle('cinematic'),budget:9000});
assert.ok(fresh.includes('用户本次要求'));
@@ -50,12 +56,25 @@ test('规划提示词:按评分筛选片段、丢弃占位描述、区分新
assert.ok(!fresh.includes('motion'));
assert.ok(fresh.includes('先 remove 现有全部片段'));
assert.ok(fresh.includes('45'));
// 新建模式:数据中不带旧时间轴(避免模型被旧片段干扰)
const freshData=JSON.parse(fresh.slice(fresh.indexOf('{',fresh.indexOf('项目数据'))));
assert.equal(freshData.clips.length,0);
assert.equal(freshData.timelineDuration,0);
assert.ok(fresh.includes('score'));
assert.ok(fresh.length<12000);
const modify=plannerPrompt(p,'把第一个镜头缩短一点',{fresh:false,budget:9000});
assert.ok(modify.includes('时间轴需要保留'));
assert.ok(modify.includes('c1'));
const modifyData=JSON.parse(modify.slice(modify.indexOf('{',modify.indexOf('项目数据'))));
assert.equal(modifyData.clips.length,1);
// 大数据量下仍受预算约束
// OP/ED 区域与警告卡过滤:只保留正片内容
const epP={settings:p.settings,media:[ep('epA',88)],clips:[]};
const epPrompt=plannerPrompt(epP,'剪一个混剪',{fresh:true,budget:9000});
assert.ok(epPrompt.includes('雪地里两人相拥'));
assert.ok(epPrompt.includes('金发少年与少女在室内对话'));
assert.ok(!epPrompt.includes('黑屏上显示中文警告提示卡'),'警告卡必须排除');
assert.ok(!epPrompt.includes('片尾演职员表滚动'),'ED 区必须排除');
const big={settings:p.settings,media:Array.from({length:40},(_,i)=>({id:'m'+i,name:'素材'+i,type:'video',duration:300,tags:['t'],analysis:{segments:Array.from({length:10},(_,j)=>({start:j*30,end:j*30+28,description:'第'+j+'段:这是很长的一段语义描述内容用来填充上下文窗口测试预算裁剪是否生效',score:99-j}))}})),clips:Array.from({length:60},(_,i)=>({id:'c'+i,mediaId:'m0',track:'video',start:i*5,in:0,out:5,speed:1,volume:1}))};
const small=plannerPrompt(big,'重新剪一遍',{fresh:true,budget:3800});
assert.ok(small.length<6500);